Victor Osyka, техноцивилизация

У Sequoia апдейт GenAI’s Act o1 - agentic reasoning era какого плана проекты ищут + аналогия ландшафта с cloud и с mobile сменами парадигм в прошлом

Кстати, про их гигантоманию:
- За 50 лет отцы отрасли (вместе с KPCB, одного года, вот первый фонд) доросли до $35 млрд поднятых денег, из них $13 млрд год назад. Значит, их суммарная капитализация _входа_ в проекты а-ля $60-80 млрд ($13 млрд за 15-20% дольки)
- Если они хотят быть e.g. как Nasdaq по IRR (15%/год за декаду), то им надо сделать 4x за 10 лет, то есть общая капитализация exits их портфеля нужна $60-80 * 4 = $240-320 млрд. Поэтому Marc Andreessen отвечая на вопросы про AI 1.5 года назад и говорил "это вопрос на триллион $”
- То есть им нужны гигантские выходы типа их Stripe $70 млрд стоит (в 2021 $95) и все IPO нет, несколько типа их шведской Klarna, на пике стоили $45 млрд, сейчас $10, и десяток типа их Miro (в 2022 стоили $17 млрд, вот преза 2013). В 2021ом вошли в OpenAI по оценке $20 млрд и в Sutskever недавно
- Сейчас весь Nasdaq $25 трлн, но из них $15 трлн - топ7 бигтехи со своими феерическими network effects, желанием зарегулировать AI, своими лобби на выборы для демпартии ($1.4 млрд от гугла, $0.7 msft, $0.2 apple) чтобы их не распилили антимонопольщики
- $10 трлн/3600 шт = $2.7 млрд стоит средняя Nasdaq фирма

**

Приход reasoning
- Новый фронтир - reasoning, т.е. reinforcement learning типа AlphaGo, а не просто LLM извлекать паттерны из дикого (петабайты) объема данных
- Задуматься в цепочке рассуждений у GPT-o1 лучше всего получается в структурированных domains типа math, coding, ?наука?, и плохо в прочих
- o1 строит кучу вариантов и пытается на каждом шаге выбирать варианты лучше, и новая парадигма щас - растить время inference. Т.е. взлетит роль inference clouds

Одна модель
- Foundation layer стабилизировался с несколькими игроками, тк экономика обучения дорогая (пусть и цена токена для юзеров упала в 50x)
- Одной явно топ LLM на весь рынок не вышло, все близки. Но продуктизировать удалось только ChatGPT. В целом модели остаются на уровне API, а messy real world им не интересен -> есть место для слоя приложений

Т.н. когнитивные архитектуры
- Сферы применения оч отличаются (даже между разными компаниями) и в одну модель все не запихать. Т.е. делается разный код и запросы в модели под разные кейсы юзеров
- Схоже с как разным сотрудникам ставятся разные задачи

Apps layer
- Побить Nvidia и hyperscalers (AWS/Azure/Google) в инфраструктуре никак, OpenAI или Марка (llama) в моделях тоже, а вот IT отделы enterprises и системных интеграторов - более чем
- Юзерам недостаточно экрана ввода. То, что пару лет назад пренебрежительно называли “просто обертка чатжпт”, теперь стали изощренными фирмами с пачкой LLM под капотом, vector/graph базами для RAG и с комплаенс

SaaS
- Когда-то облака превратили софтверные фирмы в cloud service providers, создало рынок $350 млрд/год (и несколько трлн капитализации). Теперь же труд/работа превращаются в софт, а это уже рынок на триллионы
- SaaS прайсили за юзера в мес, AI - денег за результат, SaaS дистрибуция снизу вверх/что нравилось юзерам, AI - top-down, сенситивно/важно доверие
- Такие agentic software сейчас развиваются по всем секторам экономики знаний, у Sequoia например - Harvey для юристов, Glean ассистент, Factory кодерам, Abridge медикам, Xbow пентестерам, Sierra для customer support
- По мере снижения цен на inference так и будут создаваться новые рынки
- Нам кажется AI не прямо угроза SaaS фирмам, в тч тк они же сами могут внедрять AI в продукты. Скорее, все пойдут искать пулы работы, поддающиеся автоматизации, и клепать там решения с GenAI. Но с др. стороны переход от софта в SaaS удался немногим игрокам

Ландшафт/схема по аналогии с cloud
- Инфраструктурный слой - не для VC
- Foundation models - это бигтехам или финансовым инвесторам, не VC
- Тулзы разрабам - в эпоху SaaS было 15 фирм с выручкой >$1 млрд
- Уровень приложений - в SaaS было 20 фирм с выручкой $1 млрд + mobile переход создал еще столько же

Риски?
- Ждём что-то superhuman в reasoning. И да - AlphaGo не “проснулся” же. AGI придет плавно

www.group-telegram.com/it/Victor_Osyka.com/538

7.6K viewsOct 18, 2024 at 09:39

У Sequoia апдейт GenAI’s Act o1 - agentic reasoning era какого плана проекты ищут + аналогия ландшафта с cloud и с mobile сменами парадигм в прошлом

Кстати, про их гигантоманию:
- За 50 лет отцы отрасли (вместе с KPCB, одного года, вот первый фонд) доросли до $35 млрд поднятых денег, из них $13 млрд год назад. Значит, их суммарная капитализация _входа_ в проекты а-ля $60-80 млрд ($13 млрд за 15-20% дольки)
- Если они хотят быть e.g. как Nasdaq по IRR (15%/год за декаду), то им надо сделать 4x за 10 лет, то есть общая капитализация exits их портфеля нужна $60-80 * 4 = $240-320 млрд. Поэтому Marc Andreessen отвечая на вопросы про AI 1.5 года назад и говорил "это вопрос на триллион $”
- То есть им нужны гигантские выходы типа их Stripe $70 млрд стоит (в 2021 $95) и все IPO нет, несколько типа их шведской Klarna, на пике стоили $45 млрд, сейчас $10, и десяток типа их Miro (в 2022 стоили $17 млрд, вот преза 2013). В 2021ом вошли в OpenAI по оценке $20 млрд и в Sutskever недавно
- Сейчас весь Nasdaq $25 трлн, но из них $15 трлн - топ7 бигтехи со своими феерическими network effects, желанием зарегулировать AI, своими лобби на выборы для демпартии ($1.4 млрд от гугла, $0.7 msft, $0.2 apple) чтобы их не распилили антимонопольщики
- $10 трлн/3600 шт = $2.7 млрд стоит средняя Nasdaq фирма

**

Приход reasoning
- Новый фронтир - reasoning, т.е. reinforcement learning типа AlphaGo, а не просто LLM извлекать паттерны из дикого (петабайты) объема данных
- Задуматься в цепочке рассуждений у GPT-o1 лучше всего получается в структурированных domains типа math, coding, ?наука?, и плохо в прочих
- o1 строит кучу вариантов и пытается на каждом шаге выбирать варианты лучше, и новая парадигма щас - растить время inference. Т.е. взлетит роль inference clouds

Одна модель
- Foundation layer стабилизировался с несколькими игроками, тк экономика обучения дорогая (пусть и цена токена для юзеров упала в 50x)
- Одной явно топ LLM на весь рынок не вышло, все близки. Но продуктизировать удалось только ChatGPT. В целом модели остаются на уровне API, а messy real world им не интересен -> есть место для слоя приложений

Т.н. когнитивные архитектуры
- Сферы применения оч отличаются (даже между разными компаниями) и в одну модель все не запихать. Т.е. делается разный код и запросы в модели под разные кейсы юзеров
- Схоже с как разным сотрудникам ставятся разные задачи

Apps layer
- Побить Nvidia и hyperscalers (AWS/Azure/Google) в инфраструктуре никак, OpenAI или Марка (llama) в моделях тоже, а вот IT отделы enterprises и системных интеграторов - более чем
- Юзерам недостаточно экрана ввода. То, что пару лет назад пренебрежительно называли “просто обертка чатжпт”, теперь стали изощренными фирмами с пачкой LLM под капотом, vector/graph базами для RAG и с комплаенс

SaaS
- Когда-то облака превратили софтверные фирмы в cloud service providers, создало рынок $350 млрд/год (и несколько трлн капитализации). Теперь же труд/работа превращаются в софт, а это уже рынок на триллионы
- SaaS прайсили за юзера в мес, AI - денег за результат, SaaS дистрибуция снизу вверх/что нравилось юзерам, AI - top-down, сенситивно/важно доверие
- Такие agentic software сейчас развиваются по всем секторам экономики знаний, у Sequoia например - Harvey для юристов, Glean ассистент, Factory кодерам, Abridge медикам, Xbow пентестерам, Sierra для customer support
- По мере снижения цен на inference так и будут создаваться новые рынки
- Нам кажется AI не прямо угроза SaaS фирмам, в тч тк они же сами могут внедрять AI в продукты. Скорее, все пойдут искать пулы работы, поддающиеся автоматизации, и клепать там решения с GenAI. Но с др. стороны переход от софта в SaaS удался немногим игрокам

Ландшафт/схема по аналогии с cloud
- Инфраструктурный слой - не для VC
- Foundation models - это бигтехам или финансовым инвесторам, не VC
- Тулзы разрабам - в эпоху SaaS было 15 фирм с выручкой >$1 млрд
- Уровень приложений - в SaaS было 20 фирм с выручкой $1 млрд + mobile переход создал еще столько же

Риски?
- Ждём что-то superhuman в reasoning. И да - AlphaGo не “проснулся” же. AGI придет плавно

BY Victor Osyka, техноцивилизация