✔️ LLM — персональные и мобильные

Владимир Малиновский из Yandex Research уменьшил размер Llama 3.1 8B с 8 млрд параметров в 6 раз с помощью комбинации методов AQLM и PV-tuning, отчего её стало возможно запустить в браузере и без GPU. При этом в модели размером всего 2,5 Гб удалось сохранить до 80% от исходного качества ответов, утверждает автор проекта.

После загрузки компактная версия Llama 3.1 8B работает без интернета, в том числе и на мобильных устройствах. А само сжатие стало возможным благодаря совместному исследованию Yandex Research вместе с коллегами из университетов IST Austria и KAUST. Ну и не обошлось без программистской магии, о деталях которой Малиновский рассказал в блоге на Хабре.

💻 Компактность и работа on-device становятся новым трендом в области LLM. В конце ноября MTS AI выпустила в паблик сразу несколько версий Cotype Nano с улучшенной оптимизацией под CPU и мобильные устройства. Модель уже тогда сравнивали с линейкой Llama.

Обычно большие языковые модели — штука прожорливая, особенно когда дело касается ресурсов GPU. Теперь же мы буквально наблюдаем бум компактных моделей и решений для их сжатия, которые всё чаще ориентируются на работу с маломощными системами. Ну и лучше подходят тем, у кого ограничены поставки решений от Nvidia, как в случае российских компаний.

✔️ И Cotype Nano, и сжатая Llama 3.1 8B отвечают на вопросы с задержкой в пару минут даже на обычном ноутбуке. Запустить на условном смартфоне их тоже можно, хотя производительность не на топовых моделях будет ощутимо хуже. Впрочем, тут ещё вопрос оптимизации: с нативными решениями таких проблем нет.

Инструменты Apple Intelligence на последних iPhone занимают всего около 4 Гб, но пересказывают сообщения и решают другие задачи без подвисаний. ИИ-сервисы Google работают на смартфонах Pixel, а сама компания призывает сторонних разработчиков также запускать свои разработки on-device.

🤖 Сжатие моделей добавило новую плоскость «гонке вооружений» ИИ. Новые функции это, конечно, хорошо. Но вычислительные ресурсы в мире не бесконечные. Кто-то, как OpenAI, активно сжигает деньги и пытается компенсировать это новыми продуктами.

Но, возможно, будущее лежит в более узких применениях ИИ. Зачем условному помощнику банкира знать, кто и когда выигрывал Олимпиаду? Пусть лучше такая LLM будет меньше, но заточена под конкретные задачи, чтобы запустить её можно было на рабочем ноутбуке менеджера по продажам.

🔤🔤Как показало недавнее исследование команды из Apple и Университета Нотр-Дам, у LLM можно найти «супер-веса», от которых особо сильные сигналы распространяются по всей сети модели. Достаточно удалить или изменить всего один параметр, как точность LLM снижается до уровня случайного угадывания.

В этом открытии есть и приятное «но». Удаление даже 7 тысяч других крупных весов может практически никак не повлиять на модель. То есть сжимать LLM можно в разы эффективнее и без потери качества, если знать, какие части можно буквально отбросить в сторону.

#утреннийдайджест

1️⃣К 2030 году объем российского рынка виртуализации программного обеспечения (ПО) достигнет 50,4 млрд руб. при ежегодном росте сегмента более чем на 20%. Участники рынка связывают рост с политикой импортозамещения и потребностью бизнеса в обновлении инфраструктуры и софта. Однако доля этого сегмента в 2024 году составляет 14,4 млрд руб., менее 1,5% от общего объема продаж в IT-отрасли

2️⃣Китайские власти начали расследование в отношении Nvidia. Сообщается, что в центре расследования находится покупка американской компанией в 2019 году израильского производителя сетевого оборудования Mellanoх, по мнению китайских властей нарушающая антимонопольное законодательство. При этом в 2020 году китайский регулятор одобрил эту сделку

3️⃣Производитель компьютерной техники ABR Technology планирует запустить в России производство мышек и клавиатур. В ближайшее время ABR Technology рассчитывает включить свои устройства в реестр отечественной продукции Минпромторга

4️⃣Ритейлеры столкнулись с отказами со стороны правоохранительных органов в Самарской области в возбуждении уголовных дел по случаям потребительского экстремизма (Когда покупатели намеренно портят купленные устройства, чтобы вытребовать компенсацию за «брак» в добавок к возврату денег), рассказал вице-президент «М.видео-Эльдорадо» Тагир Калимуллин. Он заявил о бездействии силовиков в Самарской области и подчеркнул, что на регион приходится до 80% возвратов якобы бракованных телефонов в России. С проблемами также столкнулись МТС и restore:

5️⃣Сервис для знакомств «Мамба» инвестирует $7 млн в ребрендинг и маркетинг

🕊️

В 2027 году в российских поездах и самолётах начнёт работать спутниковый интернет, сказал сегодня Максут Шадаев в ходе заседания комитета Совета Федерации по экономической политике. Покрытие обеспечит низкоорбитальная группировка отечественного «аналога Starlink» из 270 спутников.

📶 Работу над проектом ведёт «Бюро 1440». В мае компания отчиталась о запуске 3 отечественных низкоорбитальных спутников (ещё 3 отправили в 2023 году). А с 2025 года «Бюро 1440» хочет запускать по 15 спутников за раз и осуществлять 10-12 пусков в год. К 2027 году количество спутников планировалось довести до 250, а сеть — подготовить к работе.

Стоимость всей работы по созданию аналога Starlink в рамках федерального проекта «Инфраструктура доступа к сети интернет» предварительно оценивается в 445 млрд рублей. К концу 2030 года группировка «Бюро 1440» должна состоять из 292 спутников, а всего предстоит запустить 383 спутника (в том числе 91 аппарат на замену выходящих из строя). Для этого потребуется провести 24 пуска ракет.

☁️ Проект крайне амбициозный. Даже 10 пусков в год означают увеличение загрузки «Роскомоса» сразу в полтора раза. За весь 2023 год состоялось всего 19 пусков российских ракет космического назначения, а за 2024 год их число ограничилось 16 запусками.

Как отметили в «Бюро 1440», за 4 года они отправили на орбиту 6 космических аппаратов, где спутники прошли лётную квалификацию приборов и компонентов, включая технологически важные — терминалы межспутниковой лазерной связи и абонентскую линию связи 5G NTN. Сейчас компания находится в активной фазе подготовке к серийному производству оборудования, суммарно над этим работают более 1,7 тысячи сотрудников.

Ну а что касается темпов пусков... В «Бюро 1440» говорят, что всё учтено в дорожной карте проекта. Но не можем не отметить, что цикл производства ракеты составляет примерно полтора года — значит, вся техника для запусков 2025 года уже должна быть пущена в производство.

#утреннийдайджест

1️⃣Осенью 2024 года российские онлайн-кинотеатры сократили выпуск оригинальных сериалов на треть, однако общий зрительский интерес к таким проектам вырос по сравнению с аналогичным периодом прошлого года. Снижение выпуска собственных сериалов в сервисах объясняют ростом издержек при производстве. Онлайн-кинотеатры стали избирательнее подходить к выбору оригинальных проектов и больше фокусируются на крупных премьерах

2️⃣Российский рынок облачных сервисов для вычислений с использованием графических процессоров (GPU) в России в этом году может вырасти на 55% до 17,1 млрд руб, говорится в исследовании J’son & Partners Consulting

3️⃣Почти четверть россиян стали использовать технические средства ускорения YouTube после замедления видеосервиса. Об этом говорится в опросе компании edna. На российские видеосервисы при этом перешла примерно треть россиян, из которых 12% предпочли «VK Видео» и 11% — Rutube

4️⃣В 2025 году затраты банков на обеспечение информационной безопасности (ИБ) вырастут лишь на величину инфляции. По словам экспертов, это связано со значительным продвижением крупных банков в импортозамещении, в частности по замене наиболее дорогостоящих решений. Вместе с тем им придется дополнительно потратиться на инфраструктуру для цифрового рубля: обеспечить возможность проводить операции с новым видом российской валюты они будут должны уже к середине следующего года

5️⃣Павел Дуров обогнал Илона Маска по популярности среди российской молодежи, следует из опроса, который провели сообщество предпринимателей CLUB 500 и сервис онлайн-рекрутинга hh.ru

🕊️

Появились подробности, что же там будет создавать OpenAI в партнёрстве с оборонной tech-компанией Anduril. Журналисты, посетившие полигон компании в Калифорнии, говорят, что это будет прорыв в использовании искусственного интеллекта в военных действиях.

В войнах будущего выиграет не тот, у кого больше огневой мощи, а тот, кто сможет сортировать данные и обмениваться информацией быстрее всех — так рассуждают в компании Anduril. Острая проблема современной войны — плохая коммуникация: информация медленно передаётся от солдат с передовой выше по цепочке — до лиц, уполномоченных принимать решения. В процессе данные становятся неактуальными, а решения, принятые на их основе, больше не отвечают ситуации на фронте.

В компании показали на примере гипотетической атаки, как будет применяться искусственный интеллект для решения проблемы:

➖ Представим: подозрительный грузовик движется по направлению военной базы. Башня компании Anduril Sentry с искусственным интеллектом, снабженная камерами и датчиками, автоматически распознала объект как возможную угрозу.
➖ Программное обеспечение компании под названием Lattice Mesh отправило человеку-оператору уведомление с вопросом, хочет ли он послать дрон для наблюдения.
➖ Оператор согласился — и дрон самостоятельно направился к грузовику, поскольку информация о его местоположении, собранная Sentry, была автоматически передана ​​дрону программным обеспечением.
➖ Грузовик скрылся за горизонтом, поэтому камера башни Sentry потеряла его из виду. Но поскольку беспилотник уже идентифицировал грузовик, его местоположение остаётся видимым оператору в программе Lattice Mesh.
➖ Дальше камеры с дрона в режиме реального времени зафиксировали, как из грузовика вышел человек и запустил свой дрон. Программа сама начнёт фиксировать местоположение дрона противника и предложит оператору отправить атакующий дрон — уже для уничтожения аппарата.

Такая мини-операция в будущем может быть развернута за считанные минуты при участии лишь одного военного. Сейчас же грузовик, скорее всего, заметит один человек, заснимет второй, а уничтожит третий — с одобрения четвертого. Если, конечно, грузовик и дрон не потеряют из вида по мере передачи информации.

По сути это нечто вроде системы умного дома, но для военных действий. И коммерческий сектор явно преуспевает в интернете вещей больше, чем военные — бюрократический механизм неповоротлив и консервативен, в том числе в США. Anduril прикладывает немало усилий, чтобы убедить Конгресс и Пентагон, что проблема с ПО и обменом данными достойна части оборонного бюджета наравне с новыми самолетами и авианосцами. Anduril потратил около $1,6 млн на лоббирование и уже, как говорят, обзавелся связями с будущей администрацией Трампа.

Усилия компании приносят плоды: 3 декабря главное управление Пентагона по цифровым технологиям и искусственному заключило трехлетний контракт с Anduril на использование ПО Lattice Mesh. Более 10 компаний в настоящее время встраивают в своё оборудование этот софт — от автономных подводных лодок до самоуправляемых грузовиков. Военные, использующие оборудование, смогут затем «публиковать» свои собственные данные в сети и «подписываться» на получение потоков данных от других датчиков.

Anduril также объединит усилия с Maven — это ПО разработки американской оборонной компании Palantir, собирающее информацию со спутников и данные геолокации. Anduril и Palantir объявили 6 декабря, что военные смогут использовать системы Maven и Lattice вместе.

Какова же роль OpenAI во всём этом? Обучение ИИ-моделей на более широком наборе данных (в том числе секретных), собранных датчиками с тысяч устройств и подключенных к Mesh и Maven, позволит получать оперативную картину боевых действий с точностью как никогда прежде. В результате, ИИ-модели будут более непосредственно использоваться в принятии военных решений. Примеры этого, кстати, уже есть: Израиль в прошлом году использовал передовые модели ИИ для обработки разведывательных данных и создания списков целей.

Группа «Т-Технологии» вывела на рынок две большие языковые модели: T-Pro с 32 миллиардами параметров и обновленную T-Lite на 7 миллиардов. Разработчики утверждают, что по качеству ответов на русском языке им удалось обогнать все открытые модели в мире, что подтверждается многочисленными индустриальными бенчмарками. Для сравнения, модель от другой отечественной компании — Cotype Nano от МТС — содержит 1,5 млрд параметров, пишут Ведомости.

Выкладывание моделей такого масштаба в открытый доступ означает, что теперь компании любого размера могут использовать их бесплатно. Новые решения подходят для автоматизации клиентской поддержки, внутренних процессов и разработки продуктов без необходимости вкладываться в собственные дорогостоящие технологии.

🔻Модели помогут создать интеллектуальных чат-ботов, которые общаются более естественно, чем стандартные скриптовые системы.
🔻Инструменты могут применяться для написания кода, подготовки отчетов и других задач, оптимизируя рабочие процессы.
🔻Компании, не располагающие большими ресурсами, получают возможность работать с технологиями, которые раньше были доступны только крупным игрокам.

Руководитель ИИ-направления Т-Банка Виктор Тарнавский отметил, что существующие решения на рынке не соответствовали требованиям компании. В поисках альтернатив команда разработала семейство моделей Gen-T, создав эффективные инструменты для бизнеса. «Мы хотим, чтобы эти технологии стали доступными для всей индустрии», — подчеркнул он.

Решения Яндекса для бизнеса продолжают обновляться. Сегодня стало известно, что Яндекс Документы получили встроенный YandexGPT 4 и поддержку совместной работы до 100 человек с документами до 1 тысячи страниц.

Ещё Яндекс 360 запустил комплексный тариф для организаций с Браузером и другими сервисами, в очередной раз обновив тарифную сетку. Предлагаем разобраться в деталях — что изменилось конкретно?

🤖 Яндекс Документы переехали на собственный «движок» Arcane. Именно он позволил расширить возможности одновременной работы с файлами и размер текста, пригодного к обработке. До этого в компании использовали решение на основе пакета Р7-Офис. Он, кстати, никуда не делся и пока остаётся основным — версия Документов на Arcane находится в бете.

Попробовать её с сегодняшнего дня может любой желающий. Наконец-то достойная конкуренция Google Документам! Обновился и аналог Excel — сервис Таблицы, который теперь подсказывает пользователю формулы и поддерживает более 400 функций.

Из других особенностей новых Документов — расширенные возможности ИИ. YandexGPT 4 может создать текст с нуля, исправить ошибки или изменить стиль написанного на русском или английском языках. А в 2025 году Yandex B2B Tech планирует выпустить десктопную версию редакторов с поддержкой работы on-premise.

ℹ️ Корпоративный Браузер теперь можно приобрести в составе пакета Яндекс 360 по цене от 699 рублей за пользователя в месяц. Версию для организаций также можно интегрировать в корпоративные системы ИБ (SIEM/SOAR). За защиту от утечек отвечает встроенная DLP-система с локальной ИИ-моделью, которая может определять подозрительные действия и сайты.

Для дополнительной защиты можно разрешить доступ в корпоративные сервисы только с рабочих учётных записей Яндекс ID, запретив использование личных аккаунтов, и подключить стороннюю DLP. При желании все настройки для пользователей переносится с зарубежных браузеров: такой опыт у команды Яндекс 360 уже есть.

❓ Дорожную карту с планами по развитию Документов и Таблиц в Яндексе обещают презентовать до конца года. И её действительно хочется увидеть, ведь пока в компании только прорабатывают меры по улучшению совместимости с продуктами Microsoft и другими.

Например, когда речь зашла о макросах, которые активно используются в Excel, представители Яндекса сообщили, что работа над их поддержкой идёт. Но пока конкретных обещаний по этому поводу в компании давать не готовы. То же касается и офлайн-режима для Документов и Таблиц, возможности оставлять комментарии, миграции с Google и так далее.

🐷 Офлайн-режим сделает решения Яндекса полноценной альтернативой другому офисному ПО на отечественном рынке. По итогам 2023 года он вырос на 12% и достиг 64 млрд рублей, но зарубежные и свободные решения до сих пор занимают на нём 79%. Посмотрим, как пойдёт дело здесь.

К тому же, отечественный бигтех сейчас всё активнее выводит дочерние компании на IPO. О таких планах позавчера объявил VK для своего VK Tech. А Яндекс ещё в ноябре выделил в новую бизнес-группу Yandex B2B Tech свои корпоративные инструменты и технологии, включая продукты Yandex Cloud и Яндекс 360.

Пока это выделение виртуальное, но поговаривают, что в Яндексе уже думают о возможности создать из бизнес-группы полноценную «дочку». А это уже будет первым шагом к IPO. Выход на рынок акций — это дешёвые деньги, что особенно актуально для бизнеса в условиях растущей ключевой ставки и соответственно дорогих кредитов.

🔤🔤С последними обновлениями на фоне Яндекс 360 начинает чётко проявляться тень Google. Но у американской компании, помимо ПО, есть физическая репрезентация в виде тех же гаджетов на Android. У Яндекса с этим сложнее, если не считать Станции и новые ТВ или давно забытый Яндекс.Телефон из конца 2018 года.

Глядя на новые продукты, почему-то вспоминается ChromeOS и известные в США «хромбуки», чья система построена вокруг одного браузера. Кто знает, возможно, именно Яндекс сможет перенести подобную концепцию в наши реалии, совместив недорогую технику с малотребовательной ОС и онлайн-приложениями? Впрочем, пока в компании такие планы не подтверждают.

Яндекс занял второе место в мире по популярности среди поисковых систем. В 2024 году его доля в общем трафике составляла в среднем 3,1%. У ближайших конкурентов — Baidu и Bing — по 2,7% и 2,6% соответственно. В лидерах, очевидно, Google с его 88,5% от объёма поиска. Но у нас ситуация выглядит иначе, отмечают в Яндексе.

В III квартале 2024 года доля Яндекса среди поисковых систем в России составила 65,51%. Она увеличилась на 2,9 п.п. год к году, и это рекорд роста доли сервиса с 2015 года.

Яндекс объясняет рост доли тем, что с одной стороны в 2024 году он улучшил поиск товаров, медицинских и финансовых услуг, а с другой — развитием Поиском продуктов на базе нейросетей.

📍 О доле поисковиков мы узнали из свежего отчёта Cloudflare Radar. По его данным, мировой объём интернет-трафика в 2024 году вырос сразу на 17,2%. 41,3% от всего трафика пришлось на мобильные устройства. В 3,3 раза вырос общий объём, проходящий через спутники группировки Starlink.

ИИ-боты и веб-парсеры, поглощающие данные из интернета для обучения нейросетей, в целом снизили свою активность к концу года. Если в начале 2024 года больше всего трафика приходилось на Bytespider, то в ноябре после нескольких вспышек активности в лидеры выбился ClaudeBot. Но в итоге их активность к концу года оказалась на одном уровне с GPTBot.

Лидерами по скорости интернета в уходящем году оказались Испания, Венгрия, Южная Корея, Румыния и Люксембург с разбросом скоростей от 225,9 до 292,6 Мбит/с. Россия в первую десятку не вошла.

🤖 Отдельно выделились рейтинги популярных сервисов по категориям. Так, среди генеративного ИИ безусловным лидером остаётся ChatGPT, за ним идут Character.AI (для создания чат-ботов с персоналией), Codeium (для генерации кода), QuillBot (для работы с текстами) и чат-бот Claude.

Среди соцсетей в топе вполне ожидаемые Facebook*, TikTok, Instagram*, X (бывший Twitter) и Snapchat. Децентрализованных проектов не видно даже в первой десятке. А вот среди мессенджеров картина интереснее: первое место у WhatsApp*, за ним идёт китайский Tencent QQ. Зато на третьем месте в мире оказался Telegram! Он оставил позади Viber, WeChat и Signal.

Среди крипты первые места держат биржи Binance, Coinbase и OKX. Лидер в игровой сфере, внезапно, не Steam или онлайн-сервисы Xbox и PlayStation. Первое место занял Roblox. Вот тебе и наглядное преимущество проектов, которые позволяют самому создать себе метавселенную — Цукерберг, учись!

*Принадлежат Meta, признанной в России экстремистской

🐝 билайн получил «Премию Рунета» за вклад в безопасность и цифровое образование

На церемонии «Премии Рунета 2024» в Москве билайн стал победителем в номинации «Наука, технологии и инновации». Его сервис «Моя безопасность» получил высокую оценку жюри за защиту пользователей от мошенничества при звонках и в мессенджерах. Число пользователей сервиса с апреля выросло более чем в два раза, что подтверждает его востребованность.

В сервис входит «Виртуальный помощник», который предотвращает спам и мошенничество, записывает звонки и отправляет их расшифровки в приложение или мессенджеры. В начале 2025 года базовая версия помощника станет доступной по умолчанию для всех абонентов билайн. А сейчас клиенты могут активировать ее сами в приложении оператора.

🔤🔤Билайн также получил специальный диплом за проект beelineforkids.ru, разработанный совместно с Everland. Платформа помогает незрячим детям и подросткам развивать цифровую грамотность. За полтора года работы более 100 000 человек использовали материалы платформы, а 16 000 из них прошли курсы полностью. Более 1 200 пользователей получили индивидуальные консультации кураторов.,

#утреннийдайджест

1️⃣В 2028 году сразу несколько российских предприятий начнут серийный выпуск печатных плат 5, 6 и 7 уровня для серверов, компьютеров, смартфонов и т. д. на предприятиях компаний Yadro, «Аквариус» и др. После запуска производства Минпромторг намерен ввести обязательное использование отечественных плат в электронике. Участники рынка считают, что строительство одного такого производства может стоить 20 млрд руб

2️⃣Емкость сети связи российских мобильных операторов в этом году выросла незначительно, но объем трафика, доходящий до пользователей без сбоев, увеличился на треть, что отражает улучшения уровня развития линий связи. Причина невысоких темпов роста емкости — нехватка частотного ресурса. Операторы считают, что без выделения новых частот в ближайшие годы емкость сетей будет исчерпана

3️⃣В приложении «Яндекс Go» появится функция «Очередь», которая будет показывать, сколько очередность назначения машины перед пользователем, а при доставке можно будет воспользоваться опцией «Помощник» и, например, попросить курьера заехать в магазин

4️⃣Депутаты подготовили законопроект, который обяжет «распространителей игр» идентифицировать игроков в видеоигры по мобильному номеру или через Госуслуги

5️⃣Террорист Марк Цукерберг пожертвовал $1 млн на инаугурационный фонд Дональда Трампа (проставился на банкет, по-сути)

🕊️

✂️ Google призывает США отменить сделку Microsoft и OpenAI

Google призвала Федеральную торговую комиссию (FTC) США расторгнуть эксклюзивное соглашение Microsoft и OpenAI.

Сейчас FTC ведёт широкомасштабное расследование партнёрства Microsoft и OpenAI на предмет ущерба конкуренции на рынке искусственного интеллекта. В рамках этого расследования FTC проводит опрос крупных игроков. И вот, как дошла очередь до Google, тот нажаловался, что сделка OpenAI и Microsoft вредит конкуренции, обременяет другие компании дополнительными расходами и не даёт им возможность самостоятельно размещать новейшие модели OpenAI.

💰 Microsoft только в 2024 году заработала $1 млрд на перепродаже больших языковых моделей OpenAI, сообщает The Information. Одному клиенту, разработчику софта для финансистов Intuit, нужно было платить несколько миллионов в месяц за доступ к моделям OpenAI на серверах Microsoft.

Из чего складывается доход Microsoft от партнёрства с OpenAI? Во-первых, это сдача в аренду большего количества облачных серверов Microsoft Azure для доступа к LLM. Во-вторых, это доля в 20% от доходов самой OpenAI. В прошлом году OpenAI заработала около $3 млрд долларов, предоставляя свои LLM таким клиентам, как T-Mobile и Walmart.

Ходят слухи, что на фоне расследования OpenAI может захотеть расторгнуть соглашение с Microsoft сама.

OpenAI изначально согласилась на эксклюзивную сделку как на условие получения финансирования Microsoft в размере $13 млрд, но компания, как говорят источники, была «разочарована» ограниченным «количеством серверов, которые стартап получает от Microsoft».

Вторым фактором, влияющим на расследование, станет смена администрации с приходом Трампа — вместо нынешней главы FTC Лины Хан ей на смену придёт Эндрю Фергюсон: он обещал «ослабить контроль за американскими компаниями, за исключением крупнейших технологических фирм», которые, по его мнению, должны и дальше подвергаться «жесткому контролю». Однако Фергюсон ожидает, что зарождающийся рынок ИИ «потенциально может вытеснить существующие монополии или дуополии». Такая риторика на руку Microsoft, поскольку она тоже сталкивается с жесткой конкуренцией на растущем рынке ИИ. И если бы не предложенные так вовремя $13 млрд OpenAI, неизвестно, где бы было её место в этой гонке.

🤖 Сегодня на AI Journey в Сбере впервые показали бета-версию новейшего Kandinsky 4.0 Video. Модель умеет генерировать ролики длиной до 12 секунд в разрешении 1280 x 720 и с разным соотношением сторон. Создать ролик можно как по текстовому описанию, так и с помощью первого кадра. А версия Flash позволит сгенерировать видео в разрешении 720 x 480 всего за 15 секунд.

Первыми доступ к новой версии получат профессионалы: художники, дизайнеры и кинематографисты. Для них Kandinsky 4.0 Video будет работать на платформе Fusion Brain. Но цель компании — сделать генерацию видео доступной всем, и не за 200 долларов в месяц. Такой привет новой подписке OpenAI отправил Андрей Белевцев, старший вице-президент и руководитель блока «Технологическое развитие» в Сбере.

Запустить Kandinsky 4.0 Video для всех обещают в первом квартале 2025 года. По качеству, конечно, это далеко не Sora... Впрочем, оставим жалобы на момент, когда продавать доступ к продукту начнут по полной цене.

🤖 Измерим давление по видео, «замедлим» слишком шустрый переводчик и дадим GigaChat побольше дипломов — кажется, Сбер решил по полной импортозаместить марафон анонсов от OpenAI

Компания может выпустить в публичную бету сразу ряд новых ИИ-сервисов: для генерации музыки с вокалом, проверки здоровья через камеру и синхронного перевода речи. Ждать новинок стоит в ближайшие месяцы — несмотря на то, что они ещё находятся в закрытом тесте, «пощупать» их дали посетителям конференции AI Journey.

✔️ Кажется, что Сбер особенно интересует тема здоровья. Вчера компания представила своё первое «умное» кольцо с интегрированным GigaChat MAX. ИИ позволит устройству не только собирать данные о физических показателях человека, но и давать ему советы в режиме персонального диалога.

Сегодня на стенде GigaDoc посетителям предложили узнать своё состояние «без рук» Для этого было достаточно поднести лицо поближе к обычной 4К-камере. После ИИ выводил сразу ряд показателей: предположительный пульс, давление, уровень стресса, индекс массы тела, риск диабета II типа и другие.

Результаты оказались крайне насыщены цифрами, но во многом далеки от реальности. GigaDoc, по сути, представляет собой новую версию сервиса GigaPevt. Технология анализирует изменение цвета кожи, связанное с кровотоком, и измеряет частоту сердечных сокращений, дыхание и насыщенность крови кислородом.

💻 GigaChat уже закончил школу и перебирает специальности в университете. За прошедшее время нейросеть смогла сдать ЕГЭ по истории, географии и химии, а также получила дипломы и сертификаты по педагогике, недвижимости и строительству, кибербезопасности и... лечебному делу.

Медицинские познания LLM обеспечили 60,3 Гбайт данных в текстовом формате: от клинических рекомендаций до книг и журналов. GigaChat получил оценку «хорошо», пройдя General Medical Exam, и результат в 83% за License Exam for General Medicine. В медицинских задачах его сейчас тестируют более 200 экспертов и докторов.

В Сбере клятвенно обещают не заменять докторов чат-ботом, но отмечают, что тот станет отличным ассистентом: подбирая лекарства и сопоставляя симптомы с болезнями. В следующем году GigaChat планируют провести через 20 новых аттестаций.

❓ Внезапно для себя задержался на стенде, посвящённом переводу речи. В Сбере сейчас работают над сервисом для синхронного перевода, в рамках которого система может буквально за 1 секунду «осмыслить» 10 секунд реальной речи. Представили его ещё в начале декабря, отметив, что пока он работает с задержкой всего в пару секунд.

Тогда речь шла о поддержке «десятка языков». Но на стенде мне рассказали, что пока фактически работает перевод только между русским, английским и казахским. А причиной задержки на текущем этапе является банальная необходимость: на базовую модель «накрутили» ещё одну, чтобы она улавливала паузы, разбивку на отдельные слова и предложения, не обгоняя говорящего.

Скорость работы обеспечивает тот факт, что сервис не транскрибирует запись в текст: её разбивают на speech unit'ы, которые сразу переводят и озвучивают. Чтобы добавить новый язык, достаточно нескольких дней обучения и от 500 часов аудио. Вот на казахский, например, потратили более 700 часов записанной речи.

🔤🔤Из других сервисов выделился SymFormer — модель для генерации музыкальных произведений, основанная на принципе рассмотрения музыки в качестве нотного текста. Её в GigaChat планируют интегрировать в конце этого или начале следующего года. В одном окне получится собрать трек сразу с текстом и вокалом — раньше через «Салют» можно было создать только короткую мелодию.

В Сбере утверждают, что модель обучили на открытых данных. Но звучит это во всех смыслах слишком хорошо, чтобы быть правдой. Мы недавно писали о том, что в России участники музыкального рынка хотят запретить монетизацию песен, созданных ИИ, а за рубежом «звуковики» судятся с сервисами Suno и Udio за обучение на материалах под копирайтом. Ждём продолжения истории?

🐈TAdviser опубликовал рейтинг ключевых работодателей в сфере искусственного интеллекта в России. В него вошли 20 ведущих компаний. Первые три места заняли:

🥇Яндекс Поиск

🥈Сбер AI

🥉MTS AI.

В десятке лучших также оказались Центр искусственного интеллекта Т-Банка, Лаборатория Касперского, Cloud.ru, VK, Avito, Озон Tech и Softline Digital.

Исследование охватило 45 компаний, данные для которого собирались из открытых источников, предыдущих рейтингов и экспертных оценок. Основными критериями для ранжирования стали возможности карьерного роста, развитие профессиональных навыков, качество создаваемых ИИ-продуктов, вклад в развитие сообщества и удовлетворенность сотрудников.

TAdviser отмечает, что в 2024 году 90% крупнейших российских компаний из разных отраслей уже активно используют технологии машинного обучения и искусственного интеллекта. Они применяются как для внутренних задач, так и для создания коммерческих продуктов. Размеры команд специалистов по ИИ варьируются от 50 до 100 человек в среднем бизнесе до 500-1000 сотрудников в крупных корпорациях, таких как финтех, e-com и digital.