Создатель Keras и ex- исследователь Google Ф.Шолле создает AGI для науки

Франсуа Шолле ушел из Google в ноябре и запустил новую ИИ-лабораторию Ndea вместе с Майком Кнупом.

Их основной фокус на синтезе программ вместо классического глубокого обучения.

Они видят науку как основной двигатель прогресса человечества.

Конечная цель - создание "фабрики научного прогресса" — системы, способной не только решать существующие проблемы, но и совершать новые открытия в областях от медицины до космоса. Они хотят сжать следующие 100 лет научного прогресса в 50 или даже 10 лет.

Шолле сравнивает текущее состояние program synthesis с глубоким обучением в 2012 году — то есть прямо перед революционным прорывом.

Вот он пример переоценки образования - MBA умер.

WSJ рассказывают о неожиданной тенденции для них: выпускники MBA Гарвардской школы бизнеса (одной из самых престижных в мире) испытывают серьезные трудности с поиском работы.

Согласно данным, 23% выпускников программы MBA весны 2024 года все еще искали работу спустя три месяца после выпуска. Это больше, чем в предыдущем году, когда эта цифра составляла 20%.

Кристен Фицпатрик, которая отвечает за развитие карьеры и работу с выпускниками в Harvard Business School, отмечает, что сложная ситуация с наймом стала новой реальностью. Более того, теперь выпускники не могут полагаться только на престиж имени университета для получения работы.

О том, что бизнес-школы теряют свою актуальность, мы писали ещё в сентябре 2024.

Ситуация изменилась из-за нескольких факторов:

1. Скорость изменений критически высокая. То, что преподают в бизнес-школах сегодня, может устареть уже через год-два.

2. Экономической неопределенности.

3. Скорость развития технологий, в большей степени ИИ.

Космический корабль основателя Amazon полетел в космос - у Space X полноценный конкурент

Blue Origin, космическая компания основателя Amazon Джеффа Безоса, и SpaceX Илона Маска - основные игроки в на мировом рынке в сфере космоса и будут конкурировать с государствами.

Эти две компании представляют собой яркий пример того, как частный бизнес трансформирует космическую отрасль.

Более подробно о Blue Origin тут:

https://www.group-telegram.com/blockchainRF.com/11091

https://www.group-telegram.com/blockchainRF.com/7984

Трамп собирается подписать указы в поддержку криптоиндустрии, речь идет о:

1. создании биткоин-резерва,
2. прекращении политики "дебанкинга"(отказа банков работать с криптокомпаниями)
3. назначение нескольких "про-крипто" чиновников на ключевые позиции.

Также обсуждается создание "стратегического резерва" с фокусом на американские криптовалюты (Solana, USD Coin, Ripple), но этот вопрос вызывает споры.

Причины понятные - это может подорвать позиции биткоина, как глобальной децентрализованной валюты,
создает риск чрезмерного государственного вмешательства в крипторынок, противоречит идее децентрализации криптовалют.

Особое внимание привлекает возможное создание федеральной системы регулирования майнинга, которая может включать налоговые льготы для майнинговых компаний, использующих возобновляемые источники энергии. Также обсуждается создание специальных экономических зон для криптокомпаний в нескольких штатах, включая Техас и Флориду.

Microsoft выпустили MatterGen — ИИ-модель для открытия новых материалов, адаптированных под конкретные потребности

Первая версия модели вышла ещё в декабре 2023 года. Сейчас её обновили и вот, что делает MatterGen:

- генерирует стабильные неорганические материалы
- охватывает элементы всей периодической таблицы
- может настраиваться под конкретные требования к свойствам материалов

По сравнению с предыдущими моделями, вероятность создания новых стабильных материалов в 2 раза выше; созданные структуры в 10 раз ближе к оптимальному энергетическому состоянию.

Как работает MatterGen?
1. Использует технологию диффузионных моделей (как в генерации изображений)
2. Работает с 3D-геометрией материалов
3. Обучен на базе данных из 608,000 стабильных материалов
4. Вместо перебора существующих вариантов генерирует новые материалы с заданными свойствами

Модель успешно создаёт материалы с заданными:
- химическими свойствами
- симметрией
- механическими характеристиками
- электронными свойствами
- магнитными свойствами

Авторы синтезировали один из сгенерированных материалов, и его реальные свойства отклонились от заданных всего на 20%, что подтверждает эффективность метода.

Исследователи считают, что качество генерируемых материалов и широкие возможности MatterGen представляют собой значительный шаг вперёд в создании универсальной модели для разработки новых материалов.

Новой трендовой специальностью становятся продакты в ИИ - Эндрю Нг, основатель Coursera

Эндрю Нг говорит об интересном экономическом тренде в разработке ПО

Основная идея в том, что благодаря ИИ само написание кода становится дешевле и быстрее, и это создаст повышенный спрос на продакт-менеджеров (PM) - людей, которые определяют, что именно нужно создавать.

Он приводит аналогию с автомобилями и бензином, когда машины стали дешевле, больше людей стали их покупать, что привело к росту спроса на бензин.

Похожая ситуация будет и в софте, когда написание кода становится эффективнее благодаря ИИ, растет потребность в людях, которые могут четко определять, что именно нужно создавать.

Особенно он подчеркивает перспективность роли AI Product Manager. Такой специалист должен обладать особым набором навыков:

1. Техническое понимание ИИ

2. Умение работать с итеративной разработкой

3. Навыки работы с данными

4. Способность управлять неопределенностью

5. Постоянное обучение новому

Сейчас типичное соотношение инженеров к PM составляет примерно 6:1, но Нг считает, что это изменится, так как команды будут нуждаться в большем количестве продакт-менеджеров.

При этом уже сейчас компаниям сложно найти людей, которые одновременно понимают и продакт-менеджмент, и ИИ.

Также он отмечает, что спрос на хороших AI Product Manager'ов будет огромным, а возможности для создания полезных продуктов практически безграничны.

Объем венчурного рынка РФ в 2024 упал ниже 2022 года

Венчурные фонды и инвесторы суммарно вложили в стартапы только $91,7 млн(9,4 млрд руб. по курсу ЦБ на 15 января), что меньше по объему на 23%, чем в 2023 году, и на 17% по количеству.

Всего за прошедший год было закрыто 153 сделки при среднем объеме инвестиций в $0,7 млн (годом ранее показатель составлял $0,9 млн).

Самыми популярными направлениями у инвесторов стали

1. разработка ПО для бизнеса: на них пришелся больший объем вложений за год, 14 сделок на $18,45 млн.

2. Consumer Goods & Services(разработка дейтинг-сервисов и т. д.) — $16,21 млн при девяти сделках.

В прошлом году на активность инвесторов, а также проведение IPO негативное влияние оказал рост ключевой ставки ЦБ до 21% и другие экономические факторы.

Восстановление ситуации участники рынка прогнозируют не раньше 2027 года, с учетом возможного улучшения экономических условий.

СЕО Goldman Sachs говорит, что ИИ может подготовить 95% документов на IPO за считанные минуты, а раньше на эту работу требовалась команда из 6 человек, работавшая несколько недель

Теперь имеют значение последние 5%, потому что всё остальное стало товаром.

Если конкретно, то речь идет о подготовке документа S-1 - это проспект эмиссии, который компании должны подавать в SEC.

То, что говорит СЕО Goldman Sachs означает, что рутинная работа по составлению большей части документа теперь может быть автоматизирована, и настоящую ценность представляет финальная доработка и проверка - та часть, где всё еще необходим человеческий опыт и экспертиза.

❗️Создан новый способ обучения роботов, который можно сравнить с тем, как мы учим маленьких детей

Экс-сотрудники Google, создавшие компанию Physical Intelligence разработали новый метод FAST (Fast Action Signal Tokenization) для более эффективного управления роботами. Ранее они представили GPT для роботов.

Проблема, которую решает FAST

Существующие ИИ модели для управления роботами используют простое разбиение действий на дискретные части, что недостаточно эффективно для сложных и точных задач.

Решение - FAST представляет собой новый способ токенизации (преобразования) действий робота, который:
- Использует методы сжатия, похожие на те, что применяются в JPEG
- Позволяет роботам выполнять сложные задачи с высокой точностью
- Обучается в 5 раз быстрее предыдущих методов

Роботы с FAST могут выполнять сложные задачи вроде складывания белья, уборки столов и упаковки продуктов.

Впервые удалось создать универсальную модель, которая может выполнять различные задачи в новых условиях, просто получая команды на естественном языке.

Система успешно тестировалась в 3-х американских университетах.

Компания выпустила публичную версию токенизатора FAST, обученную на 1 миллионе реальных последовательностей действий робота, которую исследователи могут использовать для своих проектов.

Нейроинтерфейс от Blackrock подключили к протезу, который позволил "чувствовать" пациентам

Исследователи из Университета Питтсбурга создали систему, возвращающую тактильные ощущения с помощью имплантируемых нейроинтерфейсов. Исследование одобрено FDA.

2 пациентам с травмами спинного мозга уровня С4 имплантировали по 4 микроэлектродных массива Blackrock Neurotech:

- 2 массива по 64 электрода в соматосенсорной коре для тактильной обратной связи
- 2 массива по 96 электродов в моторной коре для управления протезом

В исследовании использовались:
• Роботизированная рука Kinova Gen 3
• Бионическая кисть Ability Hand (Psyonic)

Что удалось достичь во время исследования?

1. Пациенты смогли различать формы предметов

2. Определить кривизну поверхностей

3. Ощущение направления движения

4. Чувство скорости

5. Управление протезом без визуального контроля

Главное достижение - система не требует длительного обучения. Пациенты сразу начинали чувствовать естественные тактильные ощущения в пальцах через стимуляцию определенных участков коры мозга.

Трамп выпустил свою крипту, а также прошел 1-й крипто бал, организованный советником Трампа, Дэвидом Саксом, на фото он посередине стоит.

Прямо перед балом Трамп запустил свой мемкоин Trump Coin на блокчейне Solana. За первые три часа капитализация монеты достигла $8 млрд.

В Вашингтоне был организован крипто бал в честь избрания Дональда Трампа президентом США, его провел новоназначенный советник по ИИ и криптовалютам Дэвид Сакс. На мероприятии Сакс заявил, что террор против криптовалют закончился, начинается эра инноваций в сфере криптовалют в США.

Подробнее о Саксе тут.
Почему Трамп решил поддержать криптовалюты тут.

На балу присутствовали крупнейшие представители криптоиндустрии, включая Майкла Сейлора, Брайана Армстронга, братьев Уинклвосс, а также политические деятели.

Некоммерческая организация Digital Sovereignty Alliance (DSA) объявила о партнерстве с новой администрацией президента США для развития этичной политики в области криптовалют.

Ожидается, что после инаугурации 20 января Трамп издаст 1-й указ, касающийся криптовалют.

Все сильные мира из ИТ вчера были на вечеринке Питера Тиля в честь Трампа

Это мероприятие символизировало победу tech индустрии в предстоящем президентстве Трампа.

Большая часть Долины вложила многомиллиардные $ в победу нового президента и ждёт теперь отдачи.

На вечеринке были: Марк Цукерберг, Сэм Альтман, советник Трампа по ИИ и криптовалютам Дэвид Сакс, вице-президент США Джей Ди Вэнс, который ранее был сотрудником Тиля, множество венчурных инвесторов и тд.

Вечеринка прошла в доме Тиля.

Итоги уходящей недели, что имеет значение в России и мире

1. Рынок автоматизации HR-процессов в России превысил ₽100 млрд.

2. В этом году в России ожидается дефицит мощностей в ЦОДах.

3. Тренд в ИИ - память.ИТ-гиганты и стартапы предлагают разные пути развития ИИ

4. Великобритания представила новый план по развитию ИИ.

5. США поделили мир на 3 группы, которые смогут иметь неравный доступ к передовым технологиям ИИ. Все подробности здесь.

6. Google представили новую архитектуру для ИИ.

7. Nvidia заключила партнерство с разработчиками нейроинтерфейсов Synchron. Зачем и почему? Читайте здесь.

8. Обзор продуктов и партнерств Nvidia, связанных с науками о жизни и разработкой лекарств.

9. Reddit запустили свой поисковик на основе LLM.

10. Китайский конкурент Neuralink говорит, что их пациенты силой мысли играют в игры, пользуются смартфоном и управляют роботом.

11. Создатель Keras, ex- исследователь Google Ф.Шолле создаетAGI для науки.

12. МBA больше не котируется на рынке труда, подробнее тут.

13. Космический корабль основателя Amazon полетел в космос. Теперь у Space X есть конкурент.

14. Планы ближайшие Трампа по отношению к рынку криптовалют, мы описали здесь.

15. Microsoft представил обновленную ИИ-модель для создания новых материалов.

16. О том, какая специальность будет одной из самой востребованной, читайте здесь.

17. Объем венчурного рынка РФ в 2024 упал ниже 2022 года.

18. Экс-сотрудники Google представили новый способ обучения роботов, подробнее тут.

19. Нейроинтерфейс от Blackrock подключили к протезу, который позволил "чувствовать" пациентам.

20. Трамп стал первым в мире президентом, у которого есть своя официальная криптовалюта. Все подробности тут.

21. Hugging Face выпустили бесплатный курс по ИИ-агентам.

Госкорпорации продолжают закупать иностранное ИТ-железо, причём закупки выросли до ₽28 млрд.

По данным тендерной площадки «Контур.Закупки», в 2024 году госкомпании (это основные участники на рынке) увеличили количество тендеров на закупку СХД и серверов на 9%, до 27,9 млрд руб.

Среди наиболее популярных брендов оборудования на госзакупках серверов в 2024 году оказались Dell, HPE, Huawei и Lenovo. В категории СХД — Huawei, IBM, Dell, HPE и Fujitsu.

А среди российских вендоров - Yadro, Fplus, Nerpa и «Аквариус».

По мнению СЕО производителя вычислительной техники Bitblaze Максима Копосова, основная проблема отечественных СХД заключается в ПО и недостатке узкоспециализированных аппаратных решений. Иностранные компании вкладывают в развитие ПО, которое ускоряет работу СХД и увеличивает их отказоустойчивость. В России такое ПО на крайне низком уровне, на создание аналогичного ПО потребуется около 3-х лет при системных инвестициях ~ ₽3–4 млрд.

У госкомпаний и госструктур по-прежнему есть недоверие к отечественному оборудованию: российским серверам и СХД отдаются места под относительно незначительную информацию, тогда как под критическую компании ставят иностранную технику.

Микроэлектроника РФ: разрыв 15-20 лет от мира и требует ₽7-10 трлн инвестиций

Инвесткомпания KAMA FLOW провел глубокий анализ российского рынка микроэлектроники за 2024 год и показал много интересных моментов об индустрии.

До 2022 года рынок в России был серьезно зависим от импортных поставок (~ 82%). Объем производства отечественной электронной продукции постепенно растет, прогноз до 2024 года - увеличение до ₽3,5 трлн.
Основным драйвером роста остается государство.

Ситуация в индустрии, на самом деле, критическая:

1. Технологический разрыв:

Аналитики отмечают, что в РФ доступен техпроцесс 65-90нм.
При этом современные мировые производители работают на уровне 2-5нм.
Тем самым, технологический разрыв составляет минимум 15-20 лет, а не 5-10 лет, как указано в презентации.

2. Необходимые инвестиции по направлениям:
• Литографическое оборудование: ₽3-5 трлн
• Фабрики чипов: ₽1,5-2,5 трлн только на одну фабрику
• Элементная база: ₽10-15 млрд
• Оборудование для вендоров: ₽1-50 млрд каждому

3. Ключевые проблемы отрасли:
• 82% зависимость от импорта до 2022 года
• Отсутствие производства современных микропроцессоров
• Критическая зависимость от зарубежных САПР и IP-блоков
• Нехватка квалифицированных специалистов

4. Факторы успеха для развития:
• ГЧП
• Структурированный подход к инвестициям
• Создание условий для частных компаний
• Международная кооперация

5. Важно понимать:
• Длительный срок окупаемости (10+ лет)
• Необходимость создания целой экосистемы
• Постоянные реинвестиции в развитие
• Комплексный подход к подготовке кадров

Даже при наличии необходимых инвестиций, преодоление технологического отставания потребует длительного времени из-за необходимости создания собственных технологических решений практически с нуля.

❗️OpenAI и FrontierMath: Большой скандал о прозрачности в ИИ, на который нужно обратить внимание

Разгорелся серьезный скандал вокруг одного из ключевых инструментов оценки математических способностей языковых моделей - бенчмарка FrontierMath.

Выяснилось, что OpenAI тайно финансировала его разработку и имела эксклюзивный доступ к данным.

Компания Epoch AI, создатель бенчмарка FrontierMath, признала, что была связана соглашением о неразглашении с OpenAI, которое запрещало раскрывать информацию об их партнерстве до запуска модели GPT-4 Turbo (o3). При этом математики, создававшие задачи для бенчмарка, не знали об участии OpenAI в проекте.

Epoch AI публично признала ошибку в обеспечении прозрачности и пообещал в будущем:
- Предоставлять более четкую информацию о источниках финансирования
- Обеспечивать прозрачность в отношении доступа к данным
- Сделать прозрачность обязательным условием подобных партнерств.

Почему это важно?

1. Конфликт интересов. OpenAI получила привилегированный доступ к тестовому набору, который должен был независимо оценивать возможности ИИ-моделей, включая их собственные.

2. Эксклюзивность доступа. Другие ИИ-компании не могут получить доступ к FrontierMath из-за контрактных обязательств Epoch перед OpenAI.

3. Достоверность результатов. Недавно заявленные результаты GPT-4 Turbo (25% производительность на FrontierMath) теперь вызывают вопросы, учитывая доступ компании к тестовым данным.

Существует несколько сценариев того, как OpenAI могла использовать полученные данные:
- Прямое включение тестовых данных в тренировочный набор
- Создание похожих тренировочных примеров
- Использование материалов для улучшения архитектуры модели

Эксперты индустрии считают, что доступ к подобным бенчмаркам должен быть либо закрыт для всех ИИ-компаний, либо равномерно открыт. Высказываются опасения, что подобная практика может привести к искусственному завышению результатов тестирования и отсутствию реальной оценки возможностей моделей.

Этот случай поднимает важные вопросы о необходимости большей прозрачности в ИИ, особенно когда речь идет об инструментах оценки и тестирования. Он также демонстрирует растущую потребность в действительно независимых бенчмарках, свободных от влияния крупных ИИ-компаний.

Китайская open source ИИ-модель DeepSeek-R1 превосходит OpenAI-o1-mini по различным тестам и она бесплатна https://www.group-telegram.com/alwebbci/2913

DeepSeek-R1 показывает производительность, сравнимую с OpenAI-o1 в задачах математики, программирования и логических рассуждений.

Особенно примечательна дистиллированная версия модели DeepSeek-R1-Distill-Qwen-32B, которая:

1. Превосходит OpenAI-o1-mini по различным тестам.

2. Может работать на компьютерах с 16 ГБ видеопамяти (например, на новых Mac).

3. Показывает отличные результаты для модели своего размера.

Модель полностью открытая, выпущено 6 меньших дистиллированных моделей. Имеет MIT лицензию, что позволяет свободно использовать её в коммерческих целях.

32B и 70B версии не уступают по производительности OpenAI-o1-mini

Сегодня начался world economic forum в Давосе, и главная горячая тема - ИИ-агенты.

Если вы не видели наш пост, то ловите еще раз: Hugging face выпустили бесплатный курс по ИИ-агентам.

А сводки с WEF еще будут. Stay tuned.

Китайцы сделали 2 прорыва в ИИ-модели DeepSeek-R1

Как пишут сами авторы, их текущие модели размером 7-70 млрд параметров даже близко не достигли своего максимума эффективности — и это без необходимости в новых данных для обучения.

"Мы даже близко не достигли предела возможностей современных ИИ-моделей", -
говорится в статье.

Что особенно интересно:

1. Модель обучается полностью через RL без предварительной тренировки на примерах.

2. В процессе обучения обнаружены эмерджентные свойства: модель сама научилась увеличивать время на "размышление" над сложными задачами и проводить самоанализ.

Этот подход напоминает AlphaZero от DeepMind, которая училась играть в го и шахматы "с нуля", без копирования человеческих стратегий.

И все это может получить любой человек, у кого есть смартфон/компьютер и интернет. Для этого нужно скачать приложение DeepSeek или открыть в браузере. И для этого всего не нужна подписка ежемесячная и VPN.

Экономические последствия таких достижений могут быть огромными:

1. Задачи, выполняемые через компьютер, становятся доступными для автоматизации.

2. ИИ показывает высокую эффективность не только в творческих задачах, но и в четком следовании инструкциям.

3. Открытость технологий DeepSeek делает эти возможности доступными для широкого круга разработчиков и компаний.

DeepSeek делает то, что изначально обещала OpenAI - создает действительно открытые, передовые технологии ИИ, доступные всему сообществу, при этом достигая впечатляющих результатов через инновационные подходы к обучению.

Такие модели с открытым исходным кодом, как R1 имеют большой потенциал влияния на экономику и рынок труда, а также на сам ИИ. Об этом мы писали здесь.

Подробнее о новой модели DeepSeek R1 читайте в нашем предыдущем посте

Илон Маск, СЕО TikTok в США, Сергей Брин, кто приехал на инаугурацию Трампа

Bloomberg показали в коротком видео гостей инаугурации нового президента США, и там мы увидели весь свет ИТ:

Маск с супругой Шивон Зилис, СЕО Neuralink,
Безос с супругой Лорен Санчес,
Цукерберг с супругой Присциллой Чан,
Тим Кук, глава Apple
Сергей Брин, основатель Google
Сундар Пичаи, СЕО Google и др.


Кто не попал на видео, но был: Сэм Альтман, СЕО OpenAI, Александр Ванг, CEO Scale AI и др.