ChatGPT, кажется, заболел (выражаясь антропоморфно). Сайт грузится нормально, но при запросах часто выдаёт ошибки либо просто зависает. Даже сами LLM отвечают как будто сквозь горячку, неся чушь чаще обычного. Ощущается... странно.

🔤🔤Говорят, что в Европе и США новый очень заразный штамм ковида ходит. Может, это он?

@anti_agi

Почитать на вечер: как ИИ может помочь в работе системному аналитику — на примере реального опыта сотрудника Лаборатории инноваций Московской биржи. Автор рассмотрел кейсы применения ассистента (а точнее Qwen) в двух сценариях:

▪️ При создании нового сервиса. Когда модель встраивается в аналитический цикл: помогает формулировать задачи, проверять гипотезы, формировать структуру требований;

▪️ В точечных кейсах. Например, когда нужно быстро обобщить данные, написать скрипт, сгенерировать ответы по документации или набросать схему в PlantUML.

Опыт показал, что даже open source модели достаточно, чтобы анализировать бизнес-задачи, структурировать и проверять данные по шаблону, создавать диаграммы и модели баз данных. Да и генерировать SQL-скрипты, в конце концов.

«Нерусскость» Qwen не мешает LLM ориентироваться в ФЗ-63, стандартах ЭЦП и прочих прелестях российской действительности. Но человека, модель, конечно не заменяет — а выступает в роли ассистента.

А вообще, Мосбиржа недавно рассказывала о запуске ИИ-ассистента для своих сотрудников с возможностями чуть ли не Operator. Будет интересно узнать, как обстоят дела с этим проектом 🤖

@anti_agi

🤖 AID от @anti_agi

Итак, Meta (запрещена в России и только тут за экстремизм) покупает 49% Scale AI: Цукерберг инвестирует в Scale AI $14,3 млрд по оценке в более чем $29 млрд (включая привлекаемые средства). Как часть сделки, 28-летний гендиректор и соучредитель Scale Александр Ван присоединится к новому подразделению «суперинтеллекта» Meta. Он останется в Scale в качестве члена совета директоров, а гендиректором вместо него планируется поставить нынешнего директора по стратегии Scale AI Джейсона Дроге.

Наученный горьким опытом (суды по Instagram идут до сих пор), Цукерберг получит в результате сделки пакет меньше контрольного, но учитывая практически монопольное положение Scale AI на рынке разметки данных, этого может оказаться недостаточно, чтобы уйти ниже радаров антимонопольных органов. По сути, эта сделка станет тестом для администрации Трампа о том, как она относится к так называемым сделкам по приобретению персонала, которые многие считают уклонением от антимонопольного контроля. Если регулятор сочтет, что сделка структурирована так, чтобы избежать этих требований и наносит ущерб конкуренции, то может начать расследование.

По всей видимости Meta постаралась сконфигурировать сделку так, чтобы она не ограничивала доступ конкурентов к услугам Scale и не давала Meta внутреннюю информацию о деятельности конкурентов. Тем не менее Google, являющийся крупнейшим клиентом Scale AI, уже грозится разорвать отношения со Scale. Google планировал в этом году заплатить Scale AI около $200 млн за маркированные людьми обучающие данные, но на этой неделе уже провел переговоры с несколькими конкурентами Scale AI.

А вот OpenAI заявила, что продолжит сотрудничество со Scale AI: «Мы не хотим замораживать экосистему [источников данных] из-за предстоящих поглощений. Если мы будем третировать друг друга, то это приведет к замедлению темпов инноваций» , — заявила финдиректор OpenAI Сара Фриар.

💻 Чипы AMD MI355, поставки которых начались в начале этого месяца, в 35 раз быстрее своих предшественников. AMD заявляет, что MI355 равен или превосходит Nvidia B200 и GB200, но при этом значительно дешевле.

Серия MI350 состоит из GPU и платформ Instinct MI350X и MI355X, которые являются частью экосистемы «Vision for an Open AI». Open AI тут с пробелом, то есть речь об открытом ИИ, а не OpenAI Альтмана. Но с OpenAI вендор, тем не менее, сотрудничает, как и с Meta, Oracle и Microsoft – стремясь создать открытую AI-экосистему. Meta «широко примененяет Instinct MI300X для инференса Llama 3 и Llama 4», а гендиректор OpenAI Сэм Альтман сообщил что OpenAI тесно сотрудничала с AMD при производстве MI300X, а также приняла глубокое участие в проектировании платформ серии MI400. Чипы этой серии станут основой для нового сервера Helios, который AMD планирует выпустить в следующем году. Отзывы OpenAI также повлияли на то, для каких видов математических операций оптимизированы чипы.

Oracle заявила, что «будет одной из первых гипермасштабируемых компаний, предлагающих суперкомпьютер с ИИ на базе Instinct MI355X», об использовании новой продукции AMD сообщили также Micron Technology и Supermicro.

AMD пытается повторить с Nvidia то, что сотворила ранее с Intel: создать дешевую альтернативу. Компания приобрела производителя серверов ZT Systems. Однако для успеха ей требуется также мощный набор софта, и за последние недели AMD приобрела несколько небольших компаний-разработчиков ПО и работает над усовершенствованием своего ROCm.

💻 Между тем Huawei сможет выпустить в 2025 году только 200 тысяч своих чипов Ascend, заявил на слушаниях в Конгрессе заместитель министра торговли США Джеффри Кесслер. По данным TechInsights, рынок AI-ускорителей в Китае в 2024 году составил около 1,5 млн.

▪️А Тайвань добавил китайские Huawei и SMIC в свой список экспортного контроля. Это означает, что тайваньские компании должны будут получать разрешение правительства перед экспортом любой продукции в эти компании. В список были добавлена 601 организация: помимо Huawei и SMIC в нем также организации из России, Пакистана, Ирана, Мьянмы и Китая.

Если чипы Nvidia не идут к китайским данным, то китайские данные сами приезжают к Nvidia

▪️ В начале марта четыре инженера из Пекина прилетели в Куала‑Лумпур с чемоданами, неся в каждом по 15 "хардов" (примерно по 80  ТБ данных в одном) — всего около 4,8  ПБ. Это сотни миллиардов или даже триллионы токенов, достаточных для обучения нескольких больших языковых моделей. В Малайзии они арендовали дата‑центр с 300 серверами c ускорителями Nvidia и обучили модели. Недавнее расследование WSJ раскрывает неожиданный способ обхода запрета на экспорт ускорителей Nvidia в Китай, наложенного США.

▪️ С юридической и маршрутной точки зрения всё выглядело законно: компания оформлена через сингапурскую, а затем — малайзийскую, чтобы миновать проверки. По словам экспертов, физический перенос данных оказался более скрытым и быстрым, чем онлайн‑передача. Хотя администрация Байдена поднимала идею ограничений на покупку чипов странами вроде Малайзии, после прихода Трампа эту идею отложили — но фактически блокировали продажи ускорителей Nvidia в Китай.

▪️ Если бы не было правдой, то напоминало бы безумные рассказы про "чипы из стиральных машин и холодильников". С другой стороны, подобные истории подогревают желание Штатов заняться "чиповой" сегрегацией и разделить страны на первый, второй и третий сорт. Хотя в этом случае Китай начнёт использовать другие маршруты — например, Ближний Восток, которому уже пообещали десятки тысяч лучших ускорителей Nvidia.

@anti_agi