group-telegram.com/ai_newz/3291
Last Update:
Cerebras, стартап, занимающийся чипами для нейронок, собирается выходить на биржу
Месяц назад писал о сверхбыстром инференсе Cerebras в канале. А тут подъехала внутренняя кухня - ведь перед IPO компании нужно опубликовать финансовую отчётность (S-1 form). И там всё очень грустно.
Оказалось, что у компании всего один крупный клиент - 97% выручки с продажи железа и 56% остальной выручки идёт от него. То есть суммарно 87% выручки компании идут от G42 - клауд-провайдера из ОАЭ.
До появления большого папочки у компании все было довольно плохо - судя по выручке, за весь 2022 год стартап продал около 10 своих машин, а за первую половину 2023 - всего одну. Позже в 2023 компания нашла своего основного клиента и ситуация поправилась, но терять по сто с лишним миллионов в год от этого она не перестала.
При таких маленьких объёмах производства не удивительно, что они не предоставляют инференс Llama 405B - у компании просто может не быть необходимой пары десятков свободных машин на руках. А будущие модели будут только больше, так что будущее их инференса под большим вопросом.
Учитывая, что компании уже больше восьми лет, - всё это вряд ли взлетит и для тренировки. Крупным клиентам нужны кластеры на сотни и тысячи таких машин, которые компания вряд ли может произвести в разумные сроки. А заказы поменьше не оправдают огромные инвестиции в софт, которые нужны для перехода на такую архитектуру. Так что возможности тренировки на двух тысячах CS-3, скорее всего, навсегда останутся инфографикой, а Хуанг - королём. А жаль, у них интересная архитектура. Может быть, я про неё напишу на днях.
@ai_newz
BY эйай ньюз
Share with your friend now:
group-telegram.com/ai_newz/3291