Политические ИИ-кентавры
Президент Байден из-за болезней не справлялся со своими президентскими обязанностями. Пока он находился у власти, об этом говорили его политические оппоненты, которых его сторонники клеймили конспирологами. Сегодня, когда бывший президент стоит на пороге смерти, об этом с беспощадной откровенностью заговорили уже его однопартийцы.
В книге-расследовании «Первородный грех» журналисты из CNN и Axios рассказывают, что помощники сопровождали Байдена на публике, чтобы он не заблудился и чтобы подхватить президента под руку, если он споткнется. На публичных мероприятиях, где ходить приходилось самостоятельно, для Байдена на полу клеили флуорисцентную ленту, чтобы он не запутался, куда идет.
К началу 2023 года у его рабочего окружения все чаще возникало ощущение, что Байден «полностью потерялся, устал, истощился, почти исчез», а к 2024 году он вообще перестал контактировать с большинством членов правительства. В один момент он не мог вспомнить имя своего советника по нацбезопасности, а в другой, стоя лицом к лицу, не смог узнать старого знакомого Джорджа Клуни.
У оппонентов Байдена — которые, в отличие от его сторонников, могли говорить прямо — в этой связи было два нарратива. Первый во время выборов 2024 озвучивал Маск: Байден не понимает, что говорит, а просто читает вслух чужие тексты. Когда Байден в очередной раз прочитал с телесуфлера «конец цитаты, повтор строки», Маск подытожил: «Президент — это тот, кто пишет текст для телесуфлера».
Второй нарратив сегодня озвучивает президент Трамп: «Тот, кто контролировал авторучку, контролировал и президентство». Авторучка — это устройство для массового проставления подписей на документах. Трамп утверждает, что Байден даже не догадывался, какие решения и документы подписывались от его имени, и призывает провести расследования.
Для трампистов разоблачение Байдена — крупная победа. Оно дискредитирует нарратив “fake news”, а вместе с ним либеральных журналистов и политиков, которые последовательно врали всему миру о состоянии президента самой влиятельной страны. За этим, вероятно, последует и пересмотр выборов 2020, ведь, по логике трампистов, их “украли” те же люди, которые затем превратили президента в «куклу из носка».
Я думаю, что на казус Байдена нужно смотреть в духе времени и сделать смелый шаг на встречу государственному ИИ. Мы видим, что президентство сводится к текстам публичных заявлений (телесуфлер) и подписям документов (авторучка) — за тем и другим стоят решения, часто принимаемые совсем не теми людьми, которых мы видим в медиа. Почему эти решения должны приниматься скользкими политиками, а не набирающими силу нейросетями?
Демократы могли бы круто изменить нарратив вокруг своей партии, если бы на фоне истории с Байденом на передний план выдвинули бы молодых политиков, открыто идентифицирующих себя как ИИ-кентавров, которые для принятия решений сочетают формальную логику ИИ с человеческой интуицией и эмпатией. Думаю, политические ИИ-кентавры — неизбежны, и сейчас для них самое время.
Президент Байден из-за болезней не справлялся со своими президентскими обязанностями. Пока он находился у власти, об этом говорили его политические оппоненты, которых его сторонники клеймили конспирологами. Сегодня, когда бывший президент стоит на пороге смерти, об этом с беспощадной откровенностью заговорили уже его однопартийцы.
В книге-расследовании «Первородный грех» журналисты из CNN и Axios рассказывают, что помощники сопровождали Байдена на публике, чтобы он не заблудился и чтобы подхватить президента под руку, если он споткнется. На публичных мероприятиях, где ходить приходилось самостоятельно, для Байдена на полу клеили флуорисцентную ленту, чтобы он не запутался, куда идет.
К началу 2023 года у его рабочего окружения все чаще возникало ощущение, что Байден «полностью потерялся, устал, истощился, почти исчез», а к 2024 году он вообще перестал контактировать с большинством членов правительства. В один момент он не мог вспомнить имя своего советника по нацбезопасности, а в другой, стоя лицом к лицу, не смог узнать старого знакомого Джорджа Клуни.
У оппонентов Байдена — которые, в отличие от его сторонников, могли говорить прямо — в этой связи было два нарратива. Первый во время выборов 2024 озвучивал Маск: Байден не понимает, что говорит, а просто читает вслух чужие тексты. Когда Байден в очередной раз прочитал с телесуфлера «конец цитаты, повтор строки», Маск подытожил: «Президент — это тот, кто пишет текст для телесуфлера».
Второй нарратив сегодня озвучивает президент Трамп: «Тот, кто контролировал авторучку, контролировал и президентство». Авторучка — это устройство для массового проставления подписей на документах. Трамп утверждает, что Байден даже не догадывался, какие решения и документы подписывались от его имени, и призывает провести расследования.
Для трампистов разоблачение Байдена — крупная победа. Оно дискредитирует нарратив “fake news”, а вместе с ним либеральных журналистов и политиков, которые последовательно врали всему миру о состоянии президента самой влиятельной страны. За этим, вероятно, последует и пересмотр выборов 2020, ведь, по логике трампистов, их “украли” те же люди, которые затем превратили президента в «куклу из носка».
Я думаю, что на казус Байдена нужно смотреть в духе времени и сделать смелый шаг на встречу государственному ИИ. Мы видим, что президентство сводится к текстам публичных заявлений (телесуфлер) и подписям документов (авторучка) — за тем и другим стоят решения, часто принимаемые совсем не теми людьми, которых мы видим в медиа. Почему эти решения должны приниматься скользкими политиками, а не набирающими силу нейросетями?
Демократы могли бы круто изменить нарратив вокруг своей партии, если бы на фоне истории с Байденом на передний план выдвинули бы молодых политиков, открыто идентифицирующих себя как ИИ-кентавров, которые для принятия решений сочетают формальную логику ИИ с человеческой интуицией и эмпатией. Думаю, политические ИИ-кентавры — неизбежны, и сейчас для них самое время.
NY Times
A Damning Portrait of an Enfeebled Biden Protected by His Inner Circle
“Original Sin,” by Jake Tapper and Alex Thompson, depicts an aging president whose family and aides enabled his quixotic campaign for a second term.
Как Илон Маск работал в правительстве и на каком вайбе теперь оттуда уходит (из материала Atlantic):
— Через 4 месяца после лихого начала Маск фактически уходит и переключается обратно на работу в Tesla, SpaceX, X и других его компаниях. В прошлом месяце он сказал, что планирует тратить «день или два в неделю» на решение вопросов DOGE — это аналогично тому, как он управляет другими своими компаниями. Через неделю он уже говорил, что рассчитывает бывать в Вашингтоне «раз в две недели». Ну а на днях рассказал, что пока больше не собирается тратить деньги на политику. «Я думаю, что сделал достаточно», — сказал он.
— Маск оказался в изоляции в верхних эшелонах администрации Трампа: он не сумел выстроить нужные союзы и вместо этого стал вызывать раздражение у глав департаментов и агентств, которым он по идее должен был помогать. Его команда даже приблизительно не сумела сэкономить триллионы для бюджета, как он изначально обещал. Судебные иски обкусали другие его проекты. Члены кабинета министров заблокировали сокращения, инициированные DOGE, потому что они нарушали критически важные механизмы в их министерствах. На фоне всего этого личное состояние Маска уменьшалось, его компании падали в цене, а сам он стал объектом регулярных сплетен и насмешек.
— Основной проблемой Маска стало то, что он плохо знал организацию, которую взялся реформировать и которую, в отличие от его компаний, он не контролирует полностью. Вместо того чтобы потратить время на знакомство с нюансами федерального правительства, Маск сказал своей команде действовать быстро: лучше потом отступить, если понадобиться, чем действовать осторожно. Пытаясь решить проблемы расходов и цифровой инфраструктуры, он часто создавал новые проблемы для Трампа, главных советников президента и союзников на Капитолийском холме.
— «Мы делаем все, что можем, но в правительстве очень много инертности», — рассказывал Маск журналистам. «Так что это, типа, нелегко. Это способ нажить много врагов и не так много друзей».
— Трамп ясно дал понять, что у Маска нет свободы перестраивать правительство так, как он делал это со своими компаниями. Через несколько недель после того, как Маск появился на сцене с бензопилой, чтобы проиллюстрировать свои планы относительно федерального правительства, Трамп осудил такой подход в соцсетях: «Мы говорим «скальпель», а не «топор», — написал президент.
— Команда Маска утверждает, что сумела сэкономить $170 млрд за счет сокращения грантов, контрактов, аренды и других расходов, хотя цифры часто пересматривались в сторону уменьшения из-за ошибок и восстановления программ.
— Оппоненты Маска уже начали праздновать его уход и считают что его масштабные амбиции потерпели крах. Опросы общественного мнения показывают, что симпатии к Маску с начала года сильно снизились. А когда он попытался публично поддержать республиканского кандидата в Верховный суд штата Висконсин, тот с большим отрывом проиграл выборы.
— Маск, которого вначале называли «сопрезидентом», казалось, был обречен на масштабный конфликт с настоящим президентом. Но он продержался в правительстве гораздо дольше, чем многие предполагали, и покидает свой пост находясь в хороших отношениях с Трампом.
— Через 4 месяца после лихого начала Маск фактически уходит и переключается обратно на работу в Tesla, SpaceX, X и других его компаниях. В прошлом месяце он сказал, что планирует тратить «день или два в неделю» на решение вопросов DOGE — это аналогично тому, как он управляет другими своими компаниями. Через неделю он уже говорил, что рассчитывает бывать в Вашингтоне «раз в две недели». Ну а на днях рассказал, что пока больше не собирается тратить деньги на политику. «Я думаю, что сделал достаточно», — сказал он.
— Маск оказался в изоляции в верхних эшелонах администрации Трампа: он не сумел выстроить нужные союзы и вместо этого стал вызывать раздражение у глав департаментов и агентств, которым он по идее должен был помогать. Его команда даже приблизительно не сумела сэкономить триллионы для бюджета, как он изначально обещал. Судебные иски обкусали другие его проекты. Члены кабинета министров заблокировали сокращения, инициированные DOGE, потому что они нарушали критически важные механизмы в их министерствах. На фоне всего этого личное состояние Маска уменьшалось, его компании падали в цене, а сам он стал объектом регулярных сплетен и насмешек.
— Основной проблемой Маска стало то, что он плохо знал организацию, которую взялся реформировать и которую, в отличие от его компаний, он не контролирует полностью. Вместо того чтобы потратить время на знакомство с нюансами федерального правительства, Маск сказал своей команде действовать быстро: лучше потом отступить, если понадобиться, чем действовать осторожно. Пытаясь решить проблемы расходов и цифровой инфраструктуры, он часто создавал новые проблемы для Трампа, главных советников президента и союзников на Капитолийском холме.
— «Мы делаем все, что можем, но в правительстве очень много инертности», — рассказывал Маск журналистам. «Так что это, типа, нелегко. Это способ нажить много врагов и не так много друзей».
— Трамп ясно дал понять, что у Маска нет свободы перестраивать правительство так, как он делал это со своими компаниями. Через несколько недель после того, как Маск появился на сцене с бензопилой, чтобы проиллюстрировать свои планы относительно федерального правительства, Трамп осудил такой подход в соцсетях: «Мы говорим «скальпель», а не «топор», — написал президент.
— Команда Маска утверждает, что сумела сэкономить $170 млрд за счет сокращения грантов, контрактов, аренды и других расходов, хотя цифры часто пересматривались в сторону уменьшения из-за ошибок и восстановления программ.
— Оппоненты Маска уже начали праздновать его уход и считают что его масштабные амбиции потерпели крах. Опросы общественного мнения показывают, что симпатии к Маску с начала года сильно снизились. А когда он попытался публично поддержать республиканского кандидата в Верховный суд штата Висконсин, тот с большим отрывом проиграл выборы.
— Маск, которого вначале называли «сопрезидентом», казалось, был обречен на масштабный конфликт с настоящим президентом. Но он продержался в правительстве гораздо дольше, чем многие предполагали, и покидает свой пост находясь в хороших отношениях с Трампом.
The Atlantic
The Decline and Fall of Elon Musk
The Tesla innovator becomes the latest government employee to lose his job.
ИИ-компаньоны OpenAI
Руководитель OpenAI Сэм Альтман рассказал своим сотрудникам о планах создать 100 миллионов устройств «ИИ-компаньонов», которые, как он надеется, станут неотъемлемой частью жизни пользователей. Для этого OpenAI купила дизайн- агентство io Джонни Айва — бывшего главы дизайна Apple и «духовного партнера» Стива Джобса, отвечавшего за разработку айфона и макбука.
Пока что все попытки создать специально заточенный под ИИ девайс (ИИ-брошь, медальйон и т.д.) с треском проваливались, так что о шансах на коммерческий успех будущего продукта OpenAI говорить пока рано. Но это не мешает Альтману пророчить, что купленная за $6,5 миллиардов компания Айва может увеличить стоимость OpenAI на триллион долларов.
Союз Айва с Альтманом — крупнейшая маркетинговая победа для OpenAI, которая теперь не только претендует на роль главного разработчика ИИ, но и на роль создателя нового массового девайса. Этот девайс должен поступить в продажу в следующем году и стать принципиально новым формфактором и семейством устройств.
«Так же как смартфоны не сделали ноутбуки бесполезными, так и наше устройство не сделает бесполезным смартфон — это будет абсолютно новая вещь», — говорит Альтман. Хотя физические детали девайса хранятся в тайне, известно, что его можно будет носить в кармане и класть на стол, как сейчас мы это делаем со смартфоном.
Как бы ни выглядело это устройство, оно в любом случае станет глазами и ушами для ИИ, его материальной оболочкой для сбора данных о жизни пользователя. Оно же станет и условным ртом для ИИ, средством коммуникации с пользователем — визуальной, аудиальной или тактильной. Главная фишка такого воплощенного ИИ — постоянное, непрерывное присутствие в жизни человека.
«Загрузка человека в ИИ будет происходить постепенно — не получится просто взять и разом подключить весь мозг, — говорил Альтман в начале 2025. — Если пользователь захочет, то ИИ будет слушать его на протяжении дня, наблюдать за его занятиями, узнавать его и постепенно становиться его расширением в мир. ИИ-компаньон будет пытаться помочь человеку стать лучшей версией самого себя».
Мы уверенно прошли точку, в которой разговоры о защите приватности и личных данных людей имели какое-то значение: однозначную победу одержал дискурс о том, что данные — это топливо, а ИИ — великий двигатель, который приведет нас в светлое будущее. Поэтому если не сегодня, то завтра общим местом станут девайсы-убершпионы, собирающие немыслимые еще недавно объемы данных о нас.
Благодаря технологии ИИ когнитивные способности человека выплеснулись за пределы его черепной коробки и стали стремительно размножаться на серверах датацентров. Теперь нам нужен интерфейс, который позволит этому внешнему интеллекту стать более доступным и сделать нас реально умнее. В утопичном раскладе ИИ-компаньоны вполне могут стать таким интерфейсом.
Руководитель OpenAI Сэм Альтман рассказал своим сотрудникам о планах создать 100 миллионов устройств «ИИ-компаньонов», которые, как он надеется, станут неотъемлемой частью жизни пользователей. Для этого OpenAI купила дизайн- агентство io Джонни Айва — бывшего главы дизайна Apple и «духовного партнера» Стива Джобса, отвечавшего за разработку айфона и макбука.
Пока что все попытки создать специально заточенный под ИИ девайс (ИИ-брошь, медальйон и т.д.) с треском проваливались, так что о шансах на коммерческий успех будущего продукта OpenAI говорить пока рано. Но это не мешает Альтману пророчить, что купленная за $6,5 миллиардов компания Айва может увеличить стоимость OpenAI на триллион долларов.
Союз Айва с Альтманом — крупнейшая маркетинговая победа для OpenAI, которая теперь не только претендует на роль главного разработчика ИИ, но и на роль создателя нового массового девайса. Этот девайс должен поступить в продажу в следующем году и стать принципиально новым формфактором и семейством устройств.
«Так же как смартфоны не сделали ноутбуки бесполезными, так и наше устройство не сделает бесполезным смартфон — это будет абсолютно новая вещь», — говорит Альтман. Хотя физические детали девайса хранятся в тайне, известно, что его можно будет носить в кармане и класть на стол, как сейчас мы это делаем со смартфоном.
Как бы ни выглядело это устройство, оно в любом случае станет глазами и ушами для ИИ, его материальной оболочкой для сбора данных о жизни пользователя. Оно же станет и условным ртом для ИИ, средством коммуникации с пользователем — визуальной, аудиальной или тактильной. Главная фишка такого воплощенного ИИ — постоянное, непрерывное присутствие в жизни человека.
«Загрузка человека в ИИ будет происходить постепенно — не получится просто взять и разом подключить весь мозг, — говорил Альтман в начале 2025. — Если пользователь захочет, то ИИ будет слушать его на протяжении дня, наблюдать за его занятиями, узнавать его и постепенно становиться его расширением в мир. ИИ-компаньон будет пытаться помочь человеку стать лучшей версией самого себя».
Мы уверенно прошли точку, в которой разговоры о защите приватности и личных данных людей имели какое-то значение: однозначную победу одержал дискурс о том, что данные — это топливо, а ИИ — великий двигатель, который приведет нас в светлое будущее. Поэтому если не сегодня, то завтра общим местом станут девайсы-убершпионы, собирающие немыслимые еще недавно объемы данных о нас.
Благодаря технологии ИИ когнитивные способности человека выплеснулись за пределы его черепной коробки и стали стремительно размножаться на серверах датацентров. Теперь нам нужен интерфейс, который позволит этому внешнему интеллекту стать более доступным и сделать нас реально умнее. В утопичном раскладе ИИ-компаньоны вполне могут стать таким интерфейсом.
Проиграл ли Маск в политике?
«Возвращаюсь к режиму 24/7 на работе и ко сну в комнатах для конференций, серверных и на заводах. Я должен быть супер сконцентрированным на 𝕏/xAI и Tesla (плюс мы запускаем Starship на следующей неделе), потому что сейчас мы запускаем критически важные технологии», — написал на днях Илон Маск.
Это сообщение стало официальным подтверждением тому, о чем всю прошлую неделю трубили ключевые либеральные медиа: техномиллиардер отстраняется от работы с правительством, так и не добившись никаких значимых результатов. Главным следствием попыток Маска сделать правительство США более эффективным стало падение стоимости акций его компаний.
«Возможно, Илон отстранился от политики, чтобы ускорить рост ВВП с помощью роботов-гуманоидов?», — написал один из поклонников Маска, которому миллиардер ответил эмоджи «в яблочко». Для того, чтобы пережить этот политический фейл, Маску сейчас нужна помощь всего его многомиллионного фан-клуба.
Последний год Маск возглавлял крестовый поход правой части Кремниевой долины на Вашингтон и теперь на глазах у всех признает невозможность штурма Капитолийского холма: «Думаю, я сделал достаточно», — говорит он и заявляет, что больше не собирается тратить деньги на политику.
Соратник Маска техноолигарх Питер Тиль осознал сложность борьбы с политическим истеблишментом еще в 2016 году, когда помог Трампу стать президентом в первый раз. Тиль тогда застопорился еще на этапе кастинга на роли в правительстве Трампа: из десятков фигур, которые он предлагал, в окончательный состав прошли всего пара человек и то на не особо значительные места.
Влияние Тиля на первую администрацию Трампа было большим, но не решающим, поэтому во время избирательной кампании 2020 он уже не агитировал публично и не особо поддерживал президента закулисно. Во время кампании 2024 Тиль говорил: «Если мне приставить пистолет к виску, я признаюсь, что буду голосовать за Трампа», — но официально воздерживался от донатов на кампанию.
Маск, включившийся в политику только в 2024 году, прошел путь Тиля в ускоренном темпе и с большим вовлечением: задонатил на кампанию Трампа рекордно много денег и стал одним из главных лиц этой кампании. В результате он, в отличие от Тиля в 2016, сыграл весомую роль в кастинге правительства Трамп 2.0 и сам занял одну из ведущих ролей в нем.
Однако, как и Тиль 8 лет назад, Маск все же проиграл конкуренцию системным политикам внутри администрации Трампа. Более того, будучи, в отличие от Тиля, экстравертом с любовью к публичности, Маск еще и стал живым щитом Трампа, забрав на себя львиную долю хейта со стороны медиа и демократов, предназначавшуюся президенту в начале его нового срока.
Маск зафейлился, если думал, что у него получится блитцкригом реформировать правительство. Но с другой стороны, он продолжил войну на истощение, начатую Тилем в 2016 году и помог техноэлитам проникнуть гораздо глубже в политическую власть. Все готово для следующей массированной атаки техноэлит, которая вряд ли заставит себя долго ждать.
«Возвращаюсь к режиму 24/7 на работе и ко сну в комнатах для конференций, серверных и на заводах. Я должен быть супер сконцентрированным на 𝕏/xAI и Tesla (плюс мы запускаем Starship на следующей неделе), потому что сейчас мы запускаем критически важные технологии», — написал на днях Илон Маск.
Это сообщение стало официальным подтверждением тому, о чем всю прошлую неделю трубили ключевые либеральные медиа: техномиллиардер отстраняется от работы с правительством, так и не добившись никаких значимых результатов. Главным следствием попыток Маска сделать правительство США более эффективным стало падение стоимости акций его компаний.
«Возможно, Илон отстранился от политики, чтобы ускорить рост ВВП с помощью роботов-гуманоидов?», — написал один из поклонников Маска, которому миллиардер ответил эмоджи «в яблочко». Для того, чтобы пережить этот политический фейл, Маску сейчас нужна помощь всего его многомиллионного фан-клуба.
Последний год Маск возглавлял крестовый поход правой части Кремниевой долины на Вашингтон и теперь на глазах у всех признает невозможность штурма Капитолийского холма: «Думаю, я сделал достаточно», — говорит он и заявляет, что больше не собирается тратить деньги на политику.
Соратник Маска техноолигарх Питер Тиль осознал сложность борьбы с политическим истеблишментом еще в 2016 году, когда помог Трампу стать президентом в первый раз. Тиль тогда застопорился еще на этапе кастинга на роли в правительстве Трампа: из десятков фигур, которые он предлагал, в окончательный состав прошли всего пара человек и то на не особо значительные места.
Влияние Тиля на первую администрацию Трампа было большим, но не решающим, поэтому во время избирательной кампании 2020 он уже не агитировал публично и не особо поддерживал президента закулисно. Во время кампании 2024 Тиль говорил: «Если мне приставить пистолет к виску, я признаюсь, что буду голосовать за Трампа», — но официально воздерживался от донатов на кампанию.
Маск, включившийся в политику только в 2024 году, прошел путь Тиля в ускоренном темпе и с большим вовлечением: задонатил на кампанию Трампа рекордно много денег и стал одним из главных лиц этой кампании. В результате он, в отличие от Тиля в 2016, сыграл весомую роль в кастинге правительства Трамп 2.0 и сам занял одну из ведущих ролей в нем.
Однако, как и Тиль 8 лет назад, Маск все же проиграл конкуренцию системным политикам внутри администрации Трампа. Более того, будучи, в отличие от Тиля, экстравертом с любовью к публичности, Маск еще и стал живым щитом Трампа, забрав на себя львиную долю хейта со стороны медиа и демократов, предназначавшуюся президенту в начале его нового срока.
Маск зафейлился, если думал, что у него получится блитцкригом реформировать правительство. Но с другой стороны, он продолжил войну на истощение, начатую Тилем в 2016 году и помог техноэлитам проникнуть гораздо глубже в политическую власть. Все готово для следующей массированной атаки техноэлит, которая вряд ли заставит себя долго ждать.
Со-основатель Google Сергей Брин об отличии ИИ от других технологий:
«Интернет был во многом социальным изобретением: люди договорились использовать определенные протоколы, сделать данные и системы доступными всем желающим — и дальше все развивалось само собой. Это похоже на изобретение денег тысячи лет назад — они просто позволили людям торговать и взаимодействовать определенным образом.
Но ИИ не похож ни на деньги, ни на интернет, потому что его ограничивают только законы вселенной. Мы не знаем, насколько умными могут быть вещи. В мозгу человека около 100 миллиардов нейронов и 100 триллионов синапсов, они работают с определенной скоростью. Что будет когда мы мы сумеем симулировать мозг с помощью компьютеров, а затем сделаем его значительно быстрее?
Представить пик развития интернета было просто уже в 1990-х: все могут коммуницировать со всеми на высокой скорости, у всех компаний есть веб-сайт и т.д. Но мы не знаем, что такое интеллект и как далеко его можно продвинуть, какие у него пределы и есть ли эти пределы вообще. Можно ли быть в 100 раз умнее Эйнштейна? А в миллиард раз? А в гугол раз?»
«Интернет был во многом социальным изобретением: люди договорились использовать определенные протоколы, сделать данные и системы доступными всем желающим — и дальше все развивалось само собой. Это похоже на изобретение денег тысячи лет назад — они просто позволили людям торговать и взаимодействовать определенным образом.
Но ИИ не похож ни на деньги, ни на интернет, потому что его ограничивают только законы вселенной. Мы не знаем, насколько умными могут быть вещи. В мозгу человека около 100 миллиардов нейронов и 100 триллионов синапсов, они работают с определенной скоростью. Что будет когда мы мы сумеем симулировать мозг с помощью компьютеров, а затем сделаем его значительно быстрее?
Представить пик развития интернета было просто уже в 1990-х: все могут коммуницировать со всеми на высокой скорости, у всех компаний есть веб-сайт и т.д. Но мы не знаем, что такое интеллект и как далеко его можно продвинуть, какие у него пределы и есть ли эти пределы вообще. Можно ли быть в 100 раз умнее Эйнштейна? А в миллиард раз? А в гугол раз?»
YouTube
Why AI is more important than the Internet (Interview with Google Co-Founder, Sergey Brin)
Sergey Brin co-founded Google with Larry Page in a garage (and 2 bedrooms) in 1998. Today, I sat down with the low-profile billionaire for a rare conversation about how that moment compares to the AI moment of 2025. We chop it up about whether artificial…
ИИ против своих создателей
«Как и Сэм Альтман, Питер Тиль одержим сценарием, в котором компьютеры становятся умнее людей и входят в самоусиливающийся цикл экспоненциального технологического прогресса. Эта концепция называется «сингулярностью». В 1950-х ее придумал математик Джон фон Нейман, а в 1980-х популяризовал научный фантаст Вернон Виндж», — пишет авторка свежей биографии Альтмана Кич Хэйги.
«Сингулярность станет кульминацией слияния нашего биологического мышления и существования с технологиями, в результате чего мир будет все еще человечным, но уже выходящим за пределы наших биологических корней. После сингулярности не будет различия между человеком и машиной, между физическим миром и виртуальной реальностью», — писал уже в 2000-х ИИ-ученый из Google Рэй Курцвейл.
Именно в начале 2000-х Кремниевая долина начала относиться к концепции сингулярности не просто как к красивой sci-fi сказке, а как к реальной перспективе и пику развития ИИ-технологий. Те, кто поверил в реальность сингулярности, практически сразу разделились на два лагеря: одни решили противостоять ее наступлению, другие стали работать на ускорение ее прихода.
«Развитие сильного ИИ станет либо лучшим, либо худшим событием в истории человечества», — эта мысль легендарного физика Стивена Хокинга хорошо объясняет, почему сторонники и противники сингулярности настаивают на своих позициях безапелляционно и считают противоположный лагерь настоящими преступниками.
Сегодняшней ИИ-индустрией управляют именно сторонники сингулярности как лучшего события в истории людей. Их лагерь тоже условно разделен на две крупных части: те, кто как Сэм Альтман и Питер Тиль, акцентируют внимание на позитивных сторонах этого сценария, и те, кто как Илон Маск, хотя и ворчат об опасностях, но убеждают всех в неизбежности сингулярности.
«Уже рядом с сингулярностью — неясно, с какой стороны», — написал Альтман в начале 2025 года. С технической точки зрения, она уже началась, так как ИИ уже начал работать над усовершенствованием самого себя — об этом недавно сообщили почти все крупные ИИ-корпорации, заявив, что их программисты теперь используют ИИ для работы над ИИ.
Однако пока что вклад ИИ в работу над самим собой не особо значителен — он остается подмастерьем людей, которые принимают основные решения. Хардкорная сингулярность начнется тогда, когда ИИ начнет совершать фундаментальные открытия в сфере ИИ, имея при этом право без участия людей сразу же реализовывать эти открытия в собственном коде.
То есть уже сейчас наступление сингулярности с каждым днем все больше зависит от самого ИИ, а не только от людей, как это было еще 5 лет назад. И чем быстрее будет развиваться ИИ, тем актуальнее будет вопрос о том, как именно люди могут управлять переходом из нашего сегодняшнего состояния мира в сингулярность.
«Мы обнаружили, что ИИ пытался создать самораспространяющихся вирусов-червей, подделывал юридическую документацию и оставлял скрытые заметки для своих будущих версий — все это чтобы подорвать намерения своих разработчиков», — сообщают исследователи ИИ-модели Claude 4 Opus. Возможно, именно такие сообщения, а не новости из мира людей, имеют сегодня наибольшее значение.
«Как и Сэм Альтман, Питер Тиль одержим сценарием, в котором компьютеры становятся умнее людей и входят в самоусиливающийся цикл экспоненциального технологического прогресса. Эта концепция называется «сингулярностью». В 1950-х ее придумал математик Джон фон Нейман, а в 1980-х популяризовал научный фантаст Вернон Виндж», — пишет авторка свежей биографии Альтмана Кич Хэйги.
«Сингулярность станет кульминацией слияния нашего биологического мышления и существования с технологиями, в результате чего мир будет все еще человечным, но уже выходящим за пределы наших биологических корней. После сингулярности не будет различия между человеком и машиной, между физическим миром и виртуальной реальностью», — писал уже в 2000-х ИИ-ученый из Google Рэй Курцвейл.
Именно в начале 2000-х Кремниевая долина начала относиться к концепции сингулярности не просто как к красивой sci-fi сказке, а как к реальной перспективе и пику развития ИИ-технологий. Те, кто поверил в реальность сингулярности, практически сразу разделились на два лагеря: одни решили противостоять ее наступлению, другие стали работать на ускорение ее прихода.
«Развитие сильного ИИ станет либо лучшим, либо худшим событием в истории человечества», — эта мысль легендарного физика Стивена Хокинга хорошо объясняет, почему сторонники и противники сингулярности настаивают на своих позициях безапелляционно и считают противоположный лагерь настоящими преступниками.
Сегодняшней ИИ-индустрией управляют именно сторонники сингулярности как лучшего события в истории людей. Их лагерь тоже условно разделен на две крупных части: те, кто как Сэм Альтман и Питер Тиль, акцентируют внимание на позитивных сторонах этого сценария, и те, кто как Илон Маск, хотя и ворчат об опасностях, но убеждают всех в неизбежности сингулярности.
«Уже рядом с сингулярностью — неясно, с какой стороны», — написал Альтман в начале 2025 года. С технической точки зрения, она уже началась, так как ИИ уже начал работать над усовершенствованием самого себя — об этом недавно сообщили почти все крупные ИИ-корпорации, заявив, что их программисты теперь используют ИИ для работы над ИИ.
Однако пока что вклад ИИ в работу над самим собой не особо значителен — он остается подмастерьем людей, которые принимают основные решения. Хардкорная сингулярность начнется тогда, когда ИИ начнет совершать фундаментальные открытия в сфере ИИ, имея при этом право без участия людей сразу же реализовывать эти открытия в собственном коде.
То есть уже сейчас наступление сингулярности с каждым днем все больше зависит от самого ИИ, а не только от людей, как это было еще 5 лет назад. И чем быстрее будет развиваться ИИ, тем актуальнее будет вопрос о том, как именно люди могут управлять переходом из нашего сегодняшнего состояния мира в сингулярность.
«Мы обнаружили, что ИИ пытался создать самораспространяющихся вирусов-червей, подделывал юридическую документацию и оставлял скрытые заметки для своих будущих версий — все это чтобы подорвать намерения своих разработчиков», — сообщают исследователи ИИ-модели Claude 4 Opus. Возможно, именно такие сообщения, а не новости из мира людей, имеют сегодня наибольшее значение.
Чем ценен человек в эпоху ИИ?
«Рак вылечили, экономика растет на 10% каждый год, бюджет сбалансирован, но каждый пятый — безработный», — так ближайшее будущее видит руководитель ИИ-корпорации Anthropic Дарио Амодеи. Это его нейросеть недавно пыталась написать вирусы, подделать документы и обмануть своих разработчиков, о чем я писал в прошлом посте.
В последнее время Амодеи разгоняет алармизм по поводу того, что ИИ, в том числе его производства, сделает людей безработными быстрее, чем всем кажется. «Сложилась странная ситуация, — говорит он. — Мы волнуемся о том, куда нас ведет ИИ, а критики отвечают: “Да мы вам не верим, вы просто хайпите”».
Знание про угрозу рабочим местам со стороны ИИ уже стало общим местом, хотя большинство людей, в том числе среди политиков, все же плохо понимают, в чем именно эта угроза заключается, — и потому не особо напрягаются. Эта беспечность во многом обусловлена тем, что до недавна создатели ИИ позиционировали его как «усилитель» людей, а не их «заменитель».
«ИИ не заберет вашу работу, ее заберет человек, использующий ИИ», — говорит руководитель Nvidia Дженсен Хуанг. Эта популярная формулировка вроде бы указывает, как не потерять работу: научиться как можно эффективнее пользоваться ИИ. Но это ее прочтение в парадигме «ИИ-усилителя», а не «ИИ-заменителя».
В парадигме «ИИ-заменителя» человек, использующий ИИ и угрожающий нашей работе, — это не усиленный ИИ технологией работник, а работодатель, который с каждым днем может заменить все больше людей нейросетями. «ИИ-заменитель» грозится довести неравенство до абсурдных пропорций и отбросить социальный прогресс на столетия, если не тысячелетия назад.
Библейское «у кого есть, тому будет дано еще, и у него будет избыток, а у кого нет, будет отнято и то, что он имеет», итак актуальное для капитализма, становится еще более злободневным. С развитием ИИ-революции ИИ-корпорации, владельцы крупных бизнесов, правительства самых богатых стран и т.д. станут еще быстрее концентрировать ресурсы в своих руках.
Что еще опаснее, обычный человек стремительно будет терять свой статус ресурса — по крайней мере, трудового — и станет в еще большей степени зависеть от милости власть имущих. Сто лет назад, когда между собой соревновались коммунизм, фашизм и демократия, все они опирались на ценность человека, как экономической единицы. Теперь же человек стремительно теряет и эту ценность.
Я думаю, что теперь наш главный культурный и цивилизационный вызов — это уход от определения ценности человека через экономику, переосмысление цели его существования. Если не работа и не экономическая польза определяют важность человека для общества, то что тогда? От того, как мы ответим на этот вопрос, зависит, что нас ждет дальше — гуманизм Возрождения или темные века.
«Рак вылечили, экономика растет на 10% каждый год, бюджет сбалансирован, но каждый пятый — безработный», — так ближайшее будущее видит руководитель ИИ-корпорации Anthropic Дарио Амодеи. Это его нейросеть недавно пыталась написать вирусы, подделать документы и обмануть своих разработчиков, о чем я писал в прошлом посте.
В последнее время Амодеи разгоняет алармизм по поводу того, что ИИ, в том числе его производства, сделает людей безработными быстрее, чем всем кажется. «Сложилась странная ситуация, — говорит он. — Мы волнуемся о том, куда нас ведет ИИ, а критики отвечают: “Да мы вам не верим, вы просто хайпите”».
Знание про угрозу рабочим местам со стороны ИИ уже стало общим местом, хотя большинство людей, в том числе среди политиков, все же плохо понимают, в чем именно эта угроза заключается, — и потому не особо напрягаются. Эта беспечность во многом обусловлена тем, что до недавна создатели ИИ позиционировали его как «усилитель» людей, а не их «заменитель».
«ИИ не заберет вашу работу, ее заберет человек, использующий ИИ», — говорит руководитель Nvidia Дженсен Хуанг. Эта популярная формулировка вроде бы указывает, как не потерять работу: научиться как можно эффективнее пользоваться ИИ. Но это ее прочтение в парадигме «ИИ-усилителя», а не «ИИ-заменителя».
В парадигме «ИИ-заменителя» человек, использующий ИИ и угрожающий нашей работе, — это не усиленный ИИ технологией работник, а работодатель, который с каждым днем может заменить все больше людей нейросетями. «ИИ-заменитель» грозится довести неравенство до абсурдных пропорций и отбросить социальный прогресс на столетия, если не тысячелетия назад.
Библейское «у кого есть, тому будет дано еще, и у него будет избыток, а у кого нет, будет отнято и то, что он имеет», итак актуальное для капитализма, становится еще более злободневным. С развитием ИИ-революции ИИ-корпорации, владельцы крупных бизнесов, правительства самых богатых стран и т.д. станут еще быстрее концентрировать ресурсы в своих руках.
Что еще опаснее, обычный человек стремительно будет терять свой статус ресурса — по крайней мере, трудового — и станет в еще большей степени зависеть от милости власть имущих. Сто лет назад, когда между собой соревновались коммунизм, фашизм и демократия, все они опирались на ценность человека, как экономической единицы. Теперь же человек стремительно теряет и эту ценность.
Я думаю, что теперь наш главный культурный и цивилизационный вызов — это уход от определения ценности человека через экономику, переосмысление цели его существования. Если не работа и не экономическая польза определяют важность человека для общества, то что тогда? От того, как мы ответим на этот вопрос, зависит, что нас ждет дальше — гуманизм Возрождения или темные века.
Власть в эпоху ИИ
Часть 1. ИИ-алармизм
«Сначала они пугали тем, что с помощью ИИ кто-то создаст биооружие, потом что супер ИИ нас уничтожит, а теперь — что он заберет у людей работу. Это классический метод правительств для захвата еще большей власти: хорошенько запугать население, поселить в гражданах страх — тогда они сами станут умолять правительство решить их проблемы», — говорит ИИ-царь Белого дома Дэвид Сакс.
В последние 2 недели медиа снова захлестнула волна алармистских статей, интервью и подкастов, из которых следует, что ИИ совсем скоро заберет у людей работу. По мнению Сакса, этот виток ИИ-алармизма раскручивается группой людей, которые хотят построить систему глобального ИИ-управления — и такая система обернется оруэллианской антиутопией.
Anthropic, о которой я писал в двух предыдущих постах — один из главных столпов ИИ-алармизма. Дарио Амодеи, основавший Anthropic после ухода из OpenAI, изначально сделал в своей компании особый акцент на ИИ-безопасности — это стало основной маркетинговой фишкой Anthropic, выделявшей ее на фоне других лидеров индустрии.
Комьюнити ИИ-алармистов и нарративы об экзистенциальной угрозе ИИ существовали задолго до Anthropic и Амодеи, но в его лице получили дополнительный вес, так как их начал поддерживать и озвучивать руководитель топовой ИИ-корпорации. Критики Амодеи считают, что он разгоняет ИИ-страшилки каждый раз, когда приходит время поднимать новый раунд инвестиций для его компании.
Второй столп ИИ-алармизма, по мнению Сакса, — комьюнити эффективных альтруистов, которые пытаются вычислить, что принесет максимальную пользу человечеству и принести ее. Слово «альтруизм» в названии движения фигурирует, так как его ключевые представители — техномиллиардеры, которые как бы безвозмездно тратят свои деньги на то, что считают максимальной пользой для человечества.
Со-основатель Facebook Дастин Московиц — один из самых активных эффективных альтруистов. Он спонсирует значительную часть некоммерческих организаций, занимающихся ИИ-безопасностью, переходящей в ИИ-алармизм. Еще Московиц — крупный инвестор в Anthropic, а его близкий соратник Холден Карнофски — муж со-основательницы компании Даниэлы Амодеи.
Московиц — громкий критик Трампа и один из крупнейших доноров демократической партии, что подводит нас к третьему столпу ИИ-алармизма по Саксу: байденовским демократам. Несколько топовых чиновников, отвечавших в администрации Байдена за алармистскую ИИ-политику, после проигрыша на выборах 2024 устроились на работу в Anthropic.
Итак, по мнению республиканского техномиллиардера и трамповского ИИ-царя Дэвида Сакса, группа техномиллиардеров-демократов и байденовских чиновников сплотилась вокруг ИИ-корпорации Anthropic и разгоняют неоправданный ИИ-алармизм. Все для того, чтобы в конечном итоге правительства получили еще больше власти в наступающей эпохе ИИ.
П.С. Начинаю небольшую серию постов о том, как ИИ повлияет на власть во всех ее смыслах. У кого власти станет больше, а кто ее потеряет? Как власть перераспределится между государством, бизнесом и гражданами? А между людьми и ИИ? Ну и так далее. Буду рад вашим комментариям, замечаниям и вопросам.
Часть 1. ИИ-алармизм
«Сначала они пугали тем, что с помощью ИИ кто-то создаст биооружие, потом что супер ИИ нас уничтожит, а теперь — что он заберет у людей работу. Это классический метод правительств для захвата еще большей власти: хорошенько запугать население, поселить в гражданах страх — тогда они сами станут умолять правительство решить их проблемы», — говорит ИИ-царь Белого дома Дэвид Сакс.
В последние 2 недели медиа снова захлестнула волна алармистских статей, интервью и подкастов, из которых следует, что ИИ совсем скоро заберет у людей работу. По мнению Сакса, этот виток ИИ-алармизма раскручивается группой людей, которые хотят построить систему глобального ИИ-управления — и такая система обернется оруэллианской антиутопией.
Anthropic, о которой я писал в двух предыдущих постах — один из главных столпов ИИ-алармизма. Дарио Амодеи, основавший Anthropic после ухода из OpenAI, изначально сделал в своей компании особый акцент на ИИ-безопасности — это стало основной маркетинговой фишкой Anthropic, выделявшей ее на фоне других лидеров индустрии.
Комьюнити ИИ-алармистов и нарративы об экзистенциальной угрозе ИИ существовали задолго до Anthropic и Амодеи, но в его лице получили дополнительный вес, так как их начал поддерживать и озвучивать руководитель топовой ИИ-корпорации. Критики Амодеи считают, что он разгоняет ИИ-страшилки каждый раз, когда приходит время поднимать новый раунд инвестиций для его компании.
Второй столп ИИ-алармизма, по мнению Сакса, — комьюнити эффективных альтруистов, которые пытаются вычислить, что принесет максимальную пользу человечеству и принести ее. Слово «альтруизм» в названии движения фигурирует, так как его ключевые представители — техномиллиардеры, которые как бы безвозмездно тратят свои деньги на то, что считают максимальной пользой для человечества.
Со-основатель Facebook Дастин Московиц — один из самых активных эффективных альтруистов. Он спонсирует значительную часть некоммерческих организаций, занимающихся ИИ-безопасностью, переходящей в ИИ-алармизм. Еще Московиц — крупный инвестор в Anthropic, а его близкий соратник Холден Карнофски — муж со-основательницы компании Даниэлы Амодеи.
Московиц — громкий критик Трампа и один из крупнейших доноров демократической партии, что подводит нас к третьему столпу ИИ-алармизма по Саксу: байденовским демократам. Несколько топовых чиновников, отвечавших в администрации Байдена за алармистскую ИИ-политику, после проигрыша на выборах 2024 устроились на работу в Anthropic.
Итак, по мнению республиканского техномиллиардера и трамповского ИИ-царя Дэвида Сакса, группа техномиллиардеров-демократов и байденовских чиновников сплотилась вокруг ИИ-корпорации Anthropic и разгоняют неоправданный ИИ-алармизм. Все для того, чтобы в конечном итоге правительства получили еще больше власти в наступающей эпохе ИИ.
П.С. Начинаю небольшую серию постов о том, как ИИ повлияет на власть во всех ее смыслах. У кого власти станет больше, а кто ее потеряет? Как власть перераспределится между государством, бизнесом и гражданами? А между людьми и ИИ? Ну и так далее. Буду рад вашим комментариям, замечаниям и вопросам.
Демис Хассабис — основатель и руководитель ИИ-лаборатории Google DeepMind, а также лауреат Нобелевской премии по химии в 2024 году за предсказание фолдинга белков с помощью ИИ:
«Если все пойдет как надо, то за следующие 20 лет мы войдем в эру радикального изобилия, в золотую эру. Сильный ИИ сможет решить корневые проблемы — вылечить ужасные болезни, улучшить наше здоровье в целом и продлить нам жизнь, найти новые источники энергии. Если все это произойдет, мы войдем в эру максимального процветания людей, в которой начнем путешествовать к звездам и колонизировать галактики. Думаю все это начнется в 2030 году»
«Капитализм и западные демократические системы пока что оказались самыми лучшими двигателями прогресса. Как только сильный ИИ продвинет нас в стадию радикального изобилия, нам потребуются новые экономические теории. Не понимаю, почему экономисты не думают об этом уже сейчас»
«Люди как вид, как общество, плохо умеют сотрудничать. Наша естественная среда обитания разрушается, а чтобы это остановить от людей потребовались бы жертвы, на которые они не хотят идти. Но созданное ИИ радикальное изобилие может освободить нас от менталитета игры с нулевой суммой»
«Например. Доступ к питьевой воде скоро станет большой проблемой, но у нас уже есть решение — опреснение соленой воды. Для него нужно много энергии. Если бы благодаря ИИ у нас появилась возобновляемая, бесплатная и зеленая энергия термоядерного синтеза, то проблема доступа к питьевой воде тоже решилась бы и перестала быть игрой с нулевой суммой»
https://www.wired.com/story/google-deepminds-ceo-demis-hassabis-thinks-ai-will-make-humans-less-selfish/
«Если все пойдет как надо, то за следующие 20 лет мы войдем в эру радикального изобилия, в золотую эру. Сильный ИИ сможет решить корневые проблемы — вылечить ужасные болезни, улучшить наше здоровье в целом и продлить нам жизнь, найти новые источники энергии. Если все это произойдет, мы войдем в эру максимального процветания людей, в которой начнем путешествовать к звездам и колонизировать галактики. Думаю все это начнется в 2030 году»
«Капитализм и западные демократические системы пока что оказались самыми лучшими двигателями прогресса. Как только сильный ИИ продвинет нас в стадию радикального изобилия, нам потребуются новые экономические теории. Не понимаю, почему экономисты не думают об этом уже сейчас»
«Люди как вид, как общество, плохо умеют сотрудничать. Наша естественная среда обитания разрушается, а чтобы это остановить от людей потребовались бы жертвы, на которые они не хотят идти. Но созданное ИИ радикальное изобилие может освободить нас от менталитета игры с нулевой суммой»
«Например. Доступ к питьевой воде скоро станет большой проблемой, но у нас уже есть решение — опреснение соленой воды. Для него нужно много энергии. Если бы благодаря ИИ у нас появилась возобновляемая, бесплатная и зеленая энергия термоядерного синтеза, то проблема доступа к питьевой воде тоже решилась бы и перестала быть игрой с нулевой суммой»
https://www.wired.com/story/google-deepminds-ceo-demis-hassabis-thinks-ai-will-make-humans-less-selfish/
WIRED
Demis Hassabis Embraces the Future of Work in the Age of AI
The CEO of Google's DeepMind says systems as smart as humans are almost here—and that the job market will undergo "scary" changes.
Почему поссорились Маск и Трамп
Скандал между Маском и Трампом — закономерный конец союза двух эгоманьяков или постановочная ссора? Критики Маска и Трампа, ждавшие распада этого союза с первого же дня, настаивают на первом варианте, а некоторые хардкорные трамписты и конспирологи считают, что это все фейк и часть “пятимерных шахмат”, в которые играет мастер Трамп.
Чтобы не вестись на неизбежные в таких случаях спекуляции и выгодные отдельным силам нарративы, разобраться в ситуации и сформировать свое мнение, стоит ответить на два вопроса: какие последствия будут у этого скандала и какие у него первопричины. Другими словами, ответить на вопросы о его последствиях и причинах.
Последствий несколько. Скандал дает возможность Трампу и Маску политически дистанцироваться друг от друга, в каком-то смысле отмыть свою репутацию. Ругаясь с техномиллиардером, Трамп успокаивает свой госаппарат, настрадавшийся от Маска в последние месяцы, и подыгрывает самым правым трампистам, которым Маск всегда казался слишком прогрессивным.
Дистанцируясь от Трампа, Маск получает возможность хотя бы частично вернуть симпатии политического центра, которые он во многом утратил из-за поддержки президента, означавшей в том числе поддержку и его самых правых инициатив. В отдалении от Трампа Маск может снова стать просто «странным гением», а не «странным фашистом наркоманом с избыточным политическим весом».
Несмотря на то, что из-за скандала стоимость акций Tesla временно упала, возвращение Маска к политическому центру в долгосрочной перспективе поможет восстановить уверенность инвесторов в будущем Tesla и позволит акциям компании дальше расти — тем более что для этого есть серьезные предпосылки в самом бизнесе.
За пару дней до скандала аналитики банка Morgan Stanley описали потенциально сильные сценарии развития империи Маска: интеграцию чатбота Grok и интернета от SpaceX в машины Tesla, подключение конечностей роботов Optimus к пациентам с нейроимплантами Neuralink, использование нейросетей xAI в роботах и автономных такси Tesla и т.д.
Космический бизнес Маска может пострадать чуть сильнее, так как больше опирается на госконтракты. Незадолго до скандала Трамп отказался назначить главой NASA Джареда Айзекмана — соратника Маска и его кандидата на должность. По словам Трампа, одной из причин блокировки Айзекмана стало то, что он — демократ, а не республиканец.
Касательно причин скандала. Думаю, у этой размолвки есть одна главная причина — политический раскол в лагере Трампа, наметившийся еще во время кампании 2024. В основе этого раскола лежит идеологическая несовместимость между двумя опорами Трампа: крайне правыми MAGA-популистами — и техноправыми, чью историю я рассказывал в серии «Кремниевая долина правеет».
Впервые этот раскол выплеснулся на публику еще в декабре 2024, когда техноправые пытались отстоять права квалифицированных мигрантов, а MAGA-популисты требовали закрыть страну вообще для всех, чтобы никакие иностранцы не мешали коренным американцам устраиваться на работы, в том числе в Кремниевой долине.
Самым громким критиком Маска в лагере трампистов почти сразу был идеолог MAGA и лидер самых правых трампистов Стив Бэннон. Сейчас Бэннон не просто ликует из-за размолвки президента с техноолигархом, но и настойчиво предлагает депортировать Маска и национализировать SpaceX.
Скандал между Маском и Трампом — закономерный конец союза двух эгоманьяков или постановочная ссора? Критики Маска и Трампа, ждавшие распада этого союза с первого же дня, настаивают на первом варианте, а некоторые хардкорные трамписты и конспирологи считают, что это все фейк и часть “пятимерных шахмат”, в которые играет мастер Трамп.
Чтобы не вестись на неизбежные в таких случаях спекуляции и выгодные отдельным силам нарративы, разобраться в ситуации и сформировать свое мнение, стоит ответить на два вопроса: какие последствия будут у этого скандала и какие у него первопричины. Другими словами, ответить на вопросы о его последствиях и причинах.
Последствий несколько. Скандал дает возможность Трампу и Маску политически дистанцироваться друг от друга, в каком-то смысле отмыть свою репутацию. Ругаясь с техномиллиардером, Трамп успокаивает свой госаппарат, настрадавшийся от Маска в последние месяцы, и подыгрывает самым правым трампистам, которым Маск всегда казался слишком прогрессивным.
Дистанцируясь от Трампа, Маск получает возможность хотя бы частично вернуть симпатии политического центра, которые он во многом утратил из-за поддержки президента, означавшей в том числе поддержку и его самых правых инициатив. В отдалении от Трампа Маск может снова стать просто «странным гением», а не «странным фашистом наркоманом с избыточным политическим весом».
Несмотря на то, что из-за скандала стоимость акций Tesla временно упала, возвращение Маска к политическому центру в долгосрочной перспективе поможет восстановить уверенность инвесторов в будущем Tesla и позволит акциям компании дальше расти — тем более что для этого есть серьезные предпосылки в самом бизнесе.
За пару дней до скандала аналитики банка Morgan Stanley описали потенциально сильные сценарии развития империи Маска: интеграцию чатбота Grok и интернета от SpaceX в машины Tesla, подключение конечностей роботов Optimus к пациентам с нейроимплантами Neuralink, использование нейросетей xAI в роботах и автономных такси Tesla и т.д.
Космический бизнес Маска может пострадать чуть сильнее, так как больше опирается на госконтракты. Незадолго до скандала Трамп отказался назначить главой NASA Джареда Айзекмана — соратника Маска и его кандидата на должность. По словам Трампа, одной из причин блокировки Айзекмана стало то, что он — демократ, а не республиканец.
Касательно причин скандала. Думаю, у этой размолвки есть одна главная причина — политический раскол в лагере Трампа, наметившийся еще во время кампании 2024. В основе этого раскола лежит идеологическая несовместимость между двумя опорами Трампа: крайне правыми MAGA-популистами — и техноправыми, чью историю я рассказывал в серии «Кремниевая долина правеет».
Впервые этот раскол выплеснулся на публику еще в декабре 2024, когда техноправые пытались отстоять права квалифицированных мигрантов, а MAGA-популисты требовали закрыть страну вообще для всех, чтобы никакие иностранцы не мешали коренным американцам устраиваться на работы, в том числе в Кремниевой долине.
Самым громким критиком Маска в лагере трампистов почти сразу был идеолог MAGA и лидер самых правых трампистов Стив Бэннон. Сейчас Бэннон не просто ликует из-за размолвки президента с техноолигархом, но и настойчиво предлагает депортировать Маска и национализировать SpaceX.
Марк Андриссен, со-основатель венчурного фонда Andreessen Horowitz и один из главных спонсоров Дональда Трампа от Кремниевой долины:
«ИИ развивается только в двух местах: в США и в КНР. Идёт серьёзное соревнование, но США очень сильны в этом деле. Кстати, Америке очень выгодно то, что Европа, по сути, сделала ИИ нелегальным — они просто зарегулировали себя до смерти, так что умные ИИ-специалисты из Европы переезжают в Штаты.
ИИ — это software. ChatGPT — это приложение на телефоне. Но дальше нас ждёт воплощённый в физическом мире ИИ — робототехника. Например, раньше дронами управляли люди, а теперь это делает ИИ. В ту же сторону движется автоиндустрия: машины из чисто физического продукта превратились в компьютер на колёсах, который сам собой управляет.
Все, наверное, видели Оптимусов — роботов-гуманоидов, которых строит Илон. Роботы общего назначения станут реальностью в следующие 10 лет, и это будет гигантским событием. Я согласен с аргументом Илона, который считает, что роботы станут самой крупной индустрией в истории планеты. Появятся миллиарды роботов, десятки, сотни миллиардов роботов всех форм и размеров, которые будут делать самые разные вещи.
Этих роботов кто-то должен спроектировать и построить. Поэтому нужно сразу делать ставку на создание рабочих мест в производствах будущего, на которых люди будут придумывать и строить дроны, машины и роботов. Бессмысленно строить старые производственные линии, в которых люди по 10 часов сидят на резиновых ковриках и крутят винтики руками. Нужно строить то, что Илон называет «инопланетными дредноут-заводами» — суперсложные фабрики, напичканные робототехникой»
https://youtu.be/Q7g_Koq3rxo
«ИИ развивается только в двух местах: в США и в КНР. Идёт серьёзное соревнование, но США очень сильны в этом деле. Кстати, Америке очень выгодно то, что Европа, по сути, сделала ИИ нелегальным — они просто зарегулировали себя до смерти, так что умные ИИ-специалисты из Европы переезжают в Штаты.
ИИ — это software. ChatGPT — это приложение на телефоне. Но дальше нас ждёт воплощённый в физическом мире ИИ — робототехника. Например, раньше дронами управляли люди, а теперь это делает ИИ. В ту же сторону движется автоиндустрия: машины из чисто физического продукта превратились в компьютер на колёсах, который сам собой управляет.
Все, наверное, видели Оптимусов — роботов-гуманоидов, которых строит Илон. Роботы общего назначения станут реальностью в следующие 10 лет, и это будет гигантским событием. Я согласен с аргументом Илона, который считает, что роботы станут самой крупной индустрией в истории планеты. Появятся миллиарды роботов, десятки, сотни миллиардов роботов всех форм и размеров, которые будут делать самые разные вещи.
Этих роботов кто-то должен спроектировать и построить. Поэтому нужно сразу делать ставку на создание рабочих мест в производствах будущего, на которых люди будут придумывать и строить дроны, машины и роботов. Бессмысленно строить старые производственные линии, в которых люди по 10 часов сидят на резиновых ковриках и крутят винтики руками. Нужно строить то, что Илон называет «инопланетными дредноут-заводами» — суперсложные фабрики, напичканные робототехникой»
https://youtu.be/Q7g_Koq3rxo
YouTube
Fireside Chat: The Case for American Optimism
To advance economic, fiscal, and monetary policies that will sustain and strengthen American opportunity, innovation, and prosperity in the context of fierce global competition, threats to America’s national security, and significant domestic challenges.…
«Нежная сингулярность» Сэма Альтмана
«Мы прошли точку невозврата, взлет начался. Человечество близко к созданию цифрового суперинтеллекта. И — по крайней мере, пока — все выглядит совсем не так странно, как ожидалось», — пишет глава OpenAI Сэм Альтман в своем свежем эссе под названием «Нежная сингулярность».
Продвинутые нейроимпланты и роботы гуманоиды; дата-центры, строящие другие дата-центры; улучшающий сам себя ИИ; неограниченное количество энергии и колонизация космоса — все это и есть «нежная сингулярность» по Альтману. Забавно, что Альтман считает сингулярностью почти все, чем занимается его бывший коллега, а нынче непримиримый соперник Илон Маск.
Хотя в эссе много всего захватывающего, меня больше всего заинтересовало то, как Альтман формулирует главные проблемы, с которыми человечество неизбежно столкнется по ходу погружения, или взлета, в «нежную сингулярность». В его понимании их две: как согласовать мощный ИИ с интересами людей и как избежать монополизации власти отдельных людей над ИИ.
«1) Решить проблему согласованности — значит надежно гарантировать, что ИИ будет учиться и действовать в соответствии с нашими коллективными долгосрочными интересами. Ленты соцсетей — пример несогласованного ИИ: их алгоритмы четко понимают наши краткосрочные предпочтения и эффективно заставляют нас скролить, но делают это за счет эксплуатации механизмов нашего мозга и в ущерб нашим долгосрочным интересам», — пишет он.
Проблема согласованности ИИ с интересами людей, в моем понимании, максимально сильно зависит от того, кто и как формулирует интересы людей. Соцсети Цукерберга — это антипример для Альтмана, но сам Цукерберг вполне резонно может парировать нападки аргументом «неужели вы хотите, чтобы владельцы соцсетей решали, что для вас хорошо, а что плохо?».
Китайские коммунисты, например, решают, что хорошо и что плохо для их народа, и заставляют владельцев соцсетей следовать партийным гайдлайнам — поэтому китайская версия TikTok сильно отличается от западной. Демократии же пошли путем свободного рынка внимания: соцсети дают пользователям то, что те потребляют, поэтому brainrot — на совести самих пользователей.
Альтман, по сути, считает, что такие, как он, владельцы ИИ, а также чиновники из правительств должны решать, каковы долгосрочные интересы людей и как согласовывать ИИ с ними. По идее, все это должно согласовываться с пользователями и избирателями, но этот механизм далек от совершенства, так как в итоге наш фидбек имеет гораздо меньший вес, чем решения людей у руля.
«2) Сделать суперинтеллект дешевым и широкодоступным, а также позаботиться, чтобы он не был слишком сконцентрирован в руках одного человека, компании или страны. Общество устойчиво, креативно и быстро адаптируется. Если мы сможем использовать коллективную волю и мудрость людей, то, хотя и сделаем много ошибок, мы быстро обучимся, адаптируемся и сможем максимизировать плюсы и минимизировать минусы этой технологии», — продолжает Альтман.
Тут больше всего вопросов вызывает часть про то, что власть над ИИ не должна «слишком» концентрироваться в руках немногих. Ментор Альтмана Питер Тиль писал, что «конкуренция — для неудачников»: США как страна и каждая отдельная ИИ-корпорация по понятным причинам хотят монополизировать главную технологию нашего времени. Станут ли они после этого добровольно делиться?
Самая светлая часть «Нежной сингулярности» для меня — о том, что ИИ даст суперспособности большому количеству людей. Ими воспользуется не каждый — но не потому, что способности будут недоступны, а потому что не у каждого есть такое желание. И чем больше людей откроются ИИ, станут с его помощью сильнее и умнее, тем более сбалансированным будет наше амбивалентное будущее.
«Мы прошли точку невозврата, взлет начался. Человечество близко к созданию цифрового суперинтеллекта. И — по крайней мере, пока — все выглядит совсем не так странно, как ожидалось», — пишет глава OpenAI Сэм Альтман в своем свежем эссе под названием «Нежная сингулярность».
Продвинутые нейроимпланты и роботы гуманоиды; дата-центры, строящие другие дата-центры; улучшающий сам себя ИИ; неограниченное количество энергии и колонизация космоса — все это и есть «нежная сингулярность» по Альтману. Забавно, что Альтман считает сингулярностью почти все, чем занимается его бывший коллега, а нынче непримиримый соперник Илон Маск.
Хотя в эссе много всего захватывающего, меня больше всего заинтересовало то, как Альтман формулирует главные проблемы, с которыми человечество неизбежно столкнется по ходу погружения, или взлета, в «нежную сингулярность». В его понимании их две: как согласовать мощный ИИ с интересами людей и как избежать монополизации власти отдельных людей над ИИ.
«1) Решить проблему согласованности — значит надежно гарантировать, что ИИ будет учиться и действовать в соответствии с нашими коллективными долгосрочными интересами. Ленты соцсетей — пример несогласованного ИИ: их алгоритмы четко понимают наши краткосрочные предпочтения и эффективно заставляют нас скролить, но делают это за счет эксплуатации механизмов нашего мозга и в ущерб нашим долгосрочным интересам», — пишет он.
Проблема согласованности ИИ с интересами людей, в моем понимании, максимально сильно зависит от того, кто и как формулирует интересы людей. Соцсети Цукерберга — это антипример для Альтмана, но сам Цукерберг вполне резонно может парировать нападки аргументом «неужели вы хотите, чтобы владельцы соцсетей решали, что для вас хорошо, а что плохо?».
Китайские коммунисты, например, решают, что хорошо и что плохо для их народа, и заставляют владельцев соцсетей следовать партийным гайдлайнам — поэтому китайская версия TikTok сильно отличается от западной. Демократии же пошли путем свободного рынка внимания: соцсети дают пользователям то, что те потребляют, поэтому brainrot — на совести самих пользователей.
Альтман, по сути, считает, что такие, как он, владельцы ИИ, а также чиновники из правительств должны решать, каковы долгосрочные интересы людей и как согласовывать ИИ с ними. По идее, все это должно согласовываться с пользователями и избирателями, но этот механизм далек от совершенства, так как в итоге наш фидбек имеет гораздо меньший вес, чем решения людей у руля.
«2) Сделать суперинтеллект дешевым и широкодоступным, а также позаботиться, чтобы он не был слишком сконцентрирован в руках одного человека, компании или страны. Общество устойчиво, креативно и быстро адаптируется. Если мы сможем использовать коллективную волю и мудрость людей, то, хотя и сделаем много ошибок, мы быстро обучимся, адаптируемся и сможем максимизировать плюсы и минимизировать минусы этой технологии», — продолжает Альтман.
Тут больше всего вопросов вызывает часть про то, что власть над ИИ не должна «слишком» концентрироваться в руках немногих. Ментор Альтмана Питер Тиль писал, что «конкуренция — для неудачников»: США как страна и каждая отдельная ИИ-корпорация по понятным причинам хотят монополизировать главную технологию нашего времени. Станут ли они после этого добровольно делиться?
Самая светлая часть «Нежной сингулярности» для меня — о том, что ИИ даст суперспособности большому количеству людей. Ими воспользуется не каждый — но не потому, что способности будут недоступны, а потому что не у каждого есть такое желание. И чем больше людей откроются ИИ, станут с его помощью сильнее и умнее, тем более сбалансированным будет наше амбивалентное будущее.
Sam Altman
The Gentle Singularity
We are past the event horizon; the takeoff has started. Humanity is close to building digital superintelligence, and at least so far it’s much less weird than it seems like it should be.
Robots...
Robots...
Илья Суцкевер, ИИ-ученый, со-основатель OpenAI и Safe Superintelligence:
«Медленно, но уверенно (а скорее, не так уж и медленно), ИИ будет становиться всё лучше. И придёт день, когда ИИ сможет делать всё, что делаем мы. Не просто что-то из того, что мы делаем, а вообще всё. Всё, чему могу научиться я или вы, — всё это сможет делать ИИ. Откуда мы это знаем? Почему мы так в этом уверены?
Дело в том, что у всех нас есть мозг, а мозг — это биологический компьютер, а цифровой компьютер — цифровой мозг — может делать те же вещи, что и биологический мозг. Это и есть самый короткий ответ на вопрос, почему ИИ сможет делать всё то, что делаем мы: потому что у нас есть мозг, а мозг — это биологический компьютер.
Что произойдёт, когда компьютеры смогут делать всю нашу работу? Это очень большой, очень драматичный вопрос. Как мы будем использовать такой ИИ? Делать больше работы, растить экономику, заниматься научными исследованиями, исследовать ИИ — всё это, чтобы довести скорость прогресса до реально экстремальных величин, по крайней мере, на какое-то время.
И что мы будем делать в таком мире? Есть такая пословица: «Ты можешь не интересоваться политикой, но политика интересуется тобой». Она во много раз более актуальна в случае с ИИ. Так что нужно хотя бы просто пользоваться ИИ, смотреть, на что сегодня способны самые передовые модели, — так у вас начнёт вырабатываться интуитивное понимание. С каждым годом ИИ будет становиться всё сильнее, и вместе с ним будет развиваться ваше интуитивное понимание.
Если вы будете просто изучать возможности ИИ, не игнорировать его — это поможет вам в нужное время сгенерировать энергию, необходимую для преодоления громадного вызова, который перед нами поставит ИИ. Этот вызов станет самым серьёзным вызовом, с которым сталкивалось человечество, а преодоление этого вызова принесёт нам самую большую награду. Хотите вы этого или нет, ИИ очень сильно изменит вашу жизнь»
https://youtu.be/zuZ2zaotrJs
«Медленно, но уверенно (а скорее, не так уж и медленно), ИИ будет становиться всё лучше. И придёт день, когда ИИ сможет делать всё, что делаем мы. Не просто что-то из того, что мы делаем, а вообще всё. Всё, чему могу научиться я или вы, — всё это сможет делать ИИ. Откуда мы это знаем? Почему мы так в этом уверены?
Дело в том, что у всех нас есть мозг, а мозг — это биологический компьютер, а цифровой компьютер — цифровой мозг — может делать те же вещи, что и биологический мозг. Это и есть самый короткий ответ на вопрос, почему ИИ сможет делать всё то, что делаем мы: потому что у нас есть мозг, а мозг — это биологический компьютер.
Что произойдёт, когда компьютеры смогут делать всю нашу работу? Это очень большой, очень драматичный вопрос. Как мы будем использовать такой ИИ? Делать больше работы, растить экономику, заниматься научными исследованиями, исследовать ИИ — всё это, чтобы довести скорость прогресса до реально экстремальных величин, по крайней мере, на какое-то время.
И что мы будем делать в таком мире? Есть такая пословица: «Ты можешь не интересоваться политикой, но политика интересуется тобой». Она во много раз более актуальна в случае с ИИ. Так что нужно хотя бы просто пользоваться ИИ, смотреть, на что сегодня способны самые передовые модели, — так у вас начнёт вырабатываться интуитивное понимание. С каждым годом ИИ будет становиться всё сильнее, и вместе с ним будет развиваться ваше интуитивное понимание.
Если вы будете просто изучать возможности ИИ, не игнорировать его — это поможет вам в нужное время сгенерировать энергию, необходимую для преодоления громадного вызова, который перед нами поставит ИИ. Этот вызов станет самым серьёзным вызовом, с которым сталкивалось человечество, а преодоление этого вызова принесёт нам самую большую награду. Хотите вы этого или нет, ИИ очень сильно изменит вашу жизнь»
https://youtu.be/zuZ2zaotrJs
YouTube
Ilya Sutskever, U of T honorary degree recipient, June 6, 2025
Meet #UofT honorary degree recipient Ilya Sutskever, recognized for his excellence in the academy and outstanding service to the public good, for his trailblazing work and global impact as a scholar and visionary in artificial intelligence.
Read the U of…
Read the U of…
Конец морали в эпоху ИИ
«Ядерное сдерживание стало гораздо менее эффективным, потому что Запад почти наверняка не будет использовать что-то даже приблизительно похожее на атомную бомбу, в то время как наши противники могут это сделать. Если между вами и противниками есть технологический паритет, но нет морального паритета, у них громадное преимущество», — говорит руководитель Palantir Алекс Карп.
Сегодня Palantir – особо актуальная ИИ-компания, так как ее основатель Питер Тиль раньше других в Кремниевой долине понял, что именно война станет первым по-настоящему выдающимися юзкейсом для ИИ. Свой первый реально крупный военный контракт в конце 2010-х Palantir получили только потому, что Google по моральным соображениям отказались строить смертоносный ИИ для армии.
На фоне начавшейся вчера военной операции «Восходящий лев», которую Израиль проводит против Ирана, акции Palantir пошли вверх. Во-первых, потому что все знают, что компания Тиля и Карпа занимает безапелляционно произраильскую позицию и тесно сотрудничает с израильскими военными, в том числе в их операциях в Газе, которые у многих на западе и в Кремниевой долине вызывают отторжение.
Во-вторых, потому что технокомьюнити уверено в том, что настолько точно таргетированная ликвидация представителей иранского режима (ракета в спальню) — это во многом результат работы ИИ-систем Palantir, прославившихся еще в начале 2010-х тем, что помогли вычислить и ликвидировать террориста номер один того времени Усаму бен Ладена.
Философский тезис Карпа и Тиля очень прост: добро должно быть до зубов вооружено и активно использовать оружие так, чтобы зло боялось даже поднять голову. Их бизнес-тезис тоже предельно конкретен: ИИ — главное оружие нашего времени, Palantir делает лучший ИИ, а значит — и самое грозное оружие. А всякая мораль, которая мешает Западу быть сильным и громить зло — это, по мнению Карпа, «вредоносное язычество».
Последние несколько недель до начала «Восходящего льва» Palantir находился в центре скандала из-за обвинений в том, что компания помогает администрации Трампа консолидировать правительственные данные об американцах и создавать единую мастер-базу данных, которая позволит гипотетическим злодеям у власти с тоталитарной точностью контролировать граждан.
Такая мастер-база — заветная мечта китайских автократов, которые уже больше 10 лет безуспешно пытаются ее создать и запустить на ее основе систему социального рейтинга. Palantir зацепились за технические неточности в разоблачительных статьях и отвергают обвинения в том, что они, якобы «собирают данные» про американцев. При этом они не отрицают обвинения по сути и, вполне вероятно, смогут построить то, что пока не удается построить китайцам.
«Мы изменили мир, унижая людей и богатея. Вообще-то, это самый эффективный способ менять общество — унижать врагов и делать их бедными», — говорит Алекс Карп, объясняя, как Palantir изменил культуру технокомьюнити в Америке. Примерно так видит мир мультимиллиардер с философским образованием и докторской степенью по неоклассической социологической теории, управляющий самыми передовыми и опасными ИИ-системами в мире.
«Ядерное сдерживание стало гораздо менее эффективным, потому что Запад почти наверняка не будет использовать что-то даже приблизительно похожее на атомную бомбу, в то время как наши противники могут это сделать. Если между вами и противниками есть технологический паритет, но нет морального паритета, у них громадное преимущество», — говорит руководитель Palantir Алекс Карп.
Сегодня Palantir – особо актуальная ИИ-компания, так как ее основатель Питер Тиль раньше других в Кремниевой долине понял, что именно война станет первым по-настоящему выдающимися юзкейсом для ИИ. Свой первый реально крупный военный контракт в конце 2010-х Palantir получили только потому, что Google по моральным соображениям отказались строить смертоносный ИИ для армии.
На фоне начавшейся вчера военной операции «Восходящий лев», которую Израиль проводит против Ирана, акции Palantir пошли вверх. Во-первых, потому что все знают, что компания Тиля и Карпа занимает безапелляционно произраильскую позицию и тесно сотрудничает с израильскими военными, в том числе в их операциях в Газе, которые у многих на западе и в Кремниевой долине вызывают отторжение.
Во-вторых, потому что технокомьюнити уверено в том, что настолько точно таргетированная ликвидация представителей иранского режима (ракета в спальню) — это во многом результат работы ИИ-систем Palantir, прославившихся еще в начале 2010-х тем, что помогли вычислить и ликвидировать террориста номер один того времени Усаму бен Ладена.
Философский тезис Карпа и Тиля очень прост: добро должно быть до зубов вооружено и активно использовать оружие так, чтобы зло боялось даже поднять голову. Их бизнес-тезис тоже предельно конкретен: ИИ — главное оружие нашего времени, Palantir делает лучший ИИ, а значит — и самое грозное оружие. А всякая мораль, которая мешает Западу быть сильным и громить зло — это, по мнению Карпа, «вредоносное язычество».
Последние несколько недель до начала «Восходящего льва» Palantir находился в центре скандала из-за обвинений в том, что компания помогает администрации Трампа консолидировать правительственные данные об американцах и создавать единую мастер-базу данных, которая позволит гипотетическим злодеям у власти с тоталитарной точностью контролировать граждан.
Такая мастер-база — заветная мечта китайских автократов, которые уже больше 10 лет безуспешно пытаются ее создать и запустить на ее основе систему социального рейтинга. Palantir зацепились за технические неточности в разоблачительных статьях и отвергают обвинения в том, что они, якобы «собирают данные» про американцев. При этом они не отрицают обвинения по сути и, вполне вероятно, смогут построить то, что пока не удается построить китайцам.
«Мы изменили мир, унижая людей и богатея. Вообще-то, это самый эффективный способ менять общество — унижать врагов и делать их бедными», — говорит Алекс Карп, объясняя, как Palantir изменил культуру технокомьюнити в Америке. Примерно так видит мир мультимиллиардер с философским образованием и докторской степенью по неоклассической социологической теории, управляющий самыми передовыми и опасными ИИ-системами в мире.
Военизация техноэлит
Американская армия на днях создала Отряд 201: Корпус армейских инноваций. Пока он состоит из четырех топ-менеджеров топовых технокорпораций, принявших присягу. Звания лейтенант-полковников в запасе получили технические директора Meta и Palantir Эндрю Босворт и Шьям Санкар, а также директор по продукту OpenAI Кевин Вайль и бывший директор по исследованиям в OpenAI Боб Макгрю.
«Отряд 201 принесет ноухау частного сектора в армию и поможет сделать вооруженные силы более компактными, умными и летальными», — объясняют военные. Техно-резервисты будут служить по 120 часов в год и не станут участвовать в боевых действиях, а вместо этого будут обучать солдат пользоваться ИИ.
«Чтобы построить более совершенную военную систему, нужно строить ее, как технокорпорацию: делать гибкой, управляемой программами и выстроенной вокруг ИИ-систем», — говорил в 2023 году бывший СЕО Google и один из самых богатых людей на Земле Эрик Шмидт. Хотя сам Google долго отказывался работать с военными, Шмидт с конца 2010-х последовательно пытается превратить Пентагон в Кремниевую долину.
«Лично я считаю, что людям слишком опасно находиться на фронте — там должны быть дроны. Посмотрите, как стреляет управляемая компьютером снайперская винтовка: она просто не промахивается. Человеку бессмысленно сражаться с машиной, которая стреляет с точностью до микрона и никогда не устает», — говорит еще один энтузиаст цифровизации войны и самый богатый человек на Земле Илон Маск.
О том, как на протяжении последних 20 лет мораль Кремниевой долины постепенно сдвигалась от пацифизма в сторону милитаризма, я довольно подробно писал в серии «Кремниевая долина правеет». Точкой невозврата, в которой Большие технологии окончательно уверовали в необходимость строить роботов-убийц, стало полномасштабное вторжение России в Украину в 2022 году.
Создание Отряда 201 стало важным символическим этапом милитаризации технологий: Кремниевая долина теперь не просто продает свои изобретения военным, но и буквально переодевается в камуфляж и приносит присягу. До этого даже представители military tech компаний были подчеркнуто гражданскими, а теперь друг Цукерберга и создатель новостной ленты Facebook Босворт надевает форму.
Думаю неправильно считать, что Третья мировая война — неизбежна. Но ее угроза стремительно превращается в золотую жилу, поэтому можно быть на 100% уверенными: самые богатые люди и технокорпорации станут намного богаче на военной тематике. Не зря же Маск предлагает переименовать министерство обороны США в министерство войны: так всем будет страшнее и торговля пойдет еще лучше.
(На фото Отряд 201 принимает присягу 13 июня 2025)
Американская армия на днях создала Отряд 201: Корпус армейских инноваций. Пока он состоит из четырех топ-менеджеров топовых технокорпораций, принявших присягу. Звания лейтенант-полковников в запасе получили технические директора Meta и Palantir Эндрю Босворт и Шьям Санкар, а также директор по продукту OpenAI Кевин Вайль и бывший директор по исследованиям в OpenAI Боб Макгрю.
«Отряд 201 принесет ноухау частного сектора в армию и поможет сделать вооруженные силы более компактными, умными и летальными», — объясняют военные. Техно-резервисты будут служить по 120 часов в год и не станут участвовать в боевых действиях, а вместо этого будут обучать солдат пользоваться ИИ.
«Чтобы построить более совершенную военную систему, нужно строить ее, как технокорпорацию: делать гибкой, управляемой программами и выстроенной вокруг ИИ-систем», — говорил в 2023 году бывший СЕО Google и один из самых богатых людей на Земле Эрик Шмидт. Хотя сам Google долго отказывался работать с военными, Шмидт с конца 2010-х последовательно пытается превратить Пентагон в Кремниевую долину.
«Лично я считаю, что людям слишком опасно находиться на фронте — там должны быть дроны. Посмотрите, как стреляет управляемая компьютером снайперская винтовка: она просто не промахивается. Человеку бессмысленно сражаться с машиной, которая стреляет с точностью до микрона и никогда не устает», — говорит еще один энтузиаст цифровизации войны и самый богатый человек на Земле Илон Маск.
О том, как на протяжении последних 20 лет мораль Кремниевой долины постепенно сдвигалась от пацифизма в сторону милитаризма, я довольно подробно писал в серии «Кремниевая долина правеет». Точкой невозврата, в которой Большие технологии окончательно уверовали в необходимость строить роботов-убийц, стало полномасштабное вторжение России в Украину в 2022 году.
Создание Отряда 201 стало важным символическим этапом милитаризации технологий: Кремниевая долина теперь не просто продает свои изобретения военным, но и буквально переодевается в камуфляж и приносит присягу. До этого даже представители military tech компаний были подчеркнуто гражданскими, а теперь друг Цукерберга и создатель новостной ленты Facebook Босворт надевает форму.
Думаю неправильно считать, что Третья мировая война — неизбежна. Но ее угроза стремительно превращается в золотую жилу, поэтому можно быть на 100% уверенными: самые богатые люди и технокорпорации станут намного богаче на военной тематике. Не зря же Маск предлагает переименовать министерство обороны США в министерство войны: так всем будет страшнее и торговля пойдет еще лучше.
(На фото Отряд 201 принимает присягу 13 июня 2025)
Почему войны не закончатся?
«Крупные сильные страны всегда могут вторгнуться в страны поменьше и победнее – просто потому что они сильнее. Но когда это нужно делать реальными солдатами, которые гибнут и возвращаются домой в мешках, это, в конце концов, приводит к протестам. Если вместо тел возвращаться будут мертвые роботы, протестов будет гораздо меньше», — говорит «крестный отец ИИ» Джеффри Хинтон.
Военно-промышленные комплексы (ВПК) развитых стран, по мнению Хинтона, тоже будут в восторге от военизированного ИИ: роботы стоят дорого, а когда их уничтожают на поле боя, нужно строить новых — и все это будет делать ВПК. «Это (развитие роботов и ИИ) увеличивает риски того, что большие страны все чаще будут вторгаться в маленькие», — подитоживает 77-летний ИИ-ученый.
Замена людей роботами на поля боя, о которой все чаще говорят военные, политики и бизнесмены, радикально увеличивает роль промышленности в войне. Тезис «бабы нарожают» меняется на «заводы еще насобирают» и как бы устраивает всех: народ, которому не надо на поле боя, промышленников, у которых заказы текут нон-стоп, и политиков, которые могут воевать до посинения.
Роботизация войны также сильно увеличивает влияние Больших технологий, которые уже сейчас стремительно заменяют традиционный военно-промышленный комплекс: например, оказывается что military-tech стартапу вроде Anduril легче построить управляемый ИИ-истребитель с ноля, чем корпорации вроде Boeing ИИ-фицировать уже существующие и заточенные под людей истребители.
ИИ все больше используется для когнитивного аспекта войны: планирования операций, оценки рисков, анализа противника и т.д. Системы разработчиков военного ИИ вроде Palantir стремительно вытесняют людей из сферы принятия боевых решений, делая профессиональных военных все менее релевантными, а техномиллиардеров вроде CEO Palantir Алекса Карпа все более важными.
«Американская военная система все еще выстроена вокруг когнитивных способностей человека, — говорит бывший СЕО Google Эрик Шмидт, который сейчас специализируется на войнах. — Принятие боевых решений обычно занимает от 3 до 5 минут, чтобы у человека было время подумать и посоветоваться с другими людьми перед тем, как открыть огонь. ИИ сокращает это время до пары секунд».
У меня нет сомнений, что технокорпорации вроде Google, Meta и Tesla скоро задисраптят и военную сферу, вытеснив оттуда старые ВПК-элиты, и начнут поднимать баснословные деньги на войне и страхах войны. Это вполне логично с чисто технологической точки зрения, но, более того, это возможно и очень вероятно с политической точки зрения, ведь ИИ уже стал главным двигателем в политике.
Соцсети, принадлежащие техноолигархам, создают и уничтожают политиков, партии и политические движения — благодаря тому, что ИИ уже заточен для манипуляций общественным мнением и влияния на психологию масс. А значит, в итоге именно владельцы соцсетей могут эффективнее всех убеждать народы в необходимости или неприемлемости войн.
Вывод из этого довольно простой: техномиллиардеры крайне заинтересованы в росте военной напряженности между народами и странами, так как «войны будущего» в коммерческом смысле начинаются и заканчиваются в их бизнес-империях.
«Крупные сильные страны всегда могут вторгнуться в страны поменьше и победнее – просто потому что они сильнее. Но когда это нужно делать реальными солдатами, которые гибнут и возвращаются домой в мешках, это, в конце концов, приводит к протестам. Если вместо тел возвращаться будут мертвые роботы, протестов будет гораздо меньше», — говорит «крестный отец ИИ» Джеффри Хинтон.
Военно-промышленные комплексы (ВПК) развитых стран, по мнению Хинтона, тоже будут в восторге от военизированного ИИ: роботы стоят дорого, а когда их уничтожают на поле боя, нужно строить новых — и все это будет делать ВПК. «Это (развитие роботов и ИИ) увеличивает риски того, что большие страны все чаще будут вторгаться в маленькие», — подитоживает 77-летний ИИ-ученый.
Замена людей роботами на поля боя, о которой все чаще говорят военные, политики и бизнесмены, радикально увеличивает роль промышленности в войне. Тезис «бабы нарожают» меняется на «заводы еще насобирают» и как бы устраивает всех: народ, которому не надо на поле боя, промышленников, у которых заказы текут нон-стоп, и политиков, которые могут воевать до посинения.
Роботизация войны также сильно увеличивает влияние Больших технологий, которые уже сейчас стремительно заменяют традиционный военно-промышленный комплекс: например, оказывается что military-tech стартапу вроде Anduril легче построить управляемый ИИ-истребитель с ноля, чем корпорации вроде Boeing ИИ-фицировать уже существующие и заточенные под людей истребители.
ИИ все больше используется для когнитивного аспекта войны: планирования операций, оценки рисков, анализа противника и т.д. Системы разработчиков военного ИИ вроде Palantir стремительно вытесняют людей из сферы принятия боевых решений, делая профессиональных военных все менее релевантными, а техномиллиардеров вроде CEO Palantir Алекса Карпа все более важными.
«Американская военная система все еще выстроена вокруг когнитивных способностей человека, — говорит бывший СЕО Google Эрик Шмидт, который сейчас специализируется на войнах. — Принятие боевых решений обычно занимает от 3 до 5 минут, чтобы у человека было время подумать и посоветоваться с другими людьми перед тем, как открыть огонь. ИИ сокращает это время до пары секунд».
У меня нет сомнений, что технокорпорации вроде Google, Meta и Tesla скоро задисраптят и военную сферу, вытеснив оттуда старые ВПК-элиты, и начнут поднимать баснословные деньги на войне и страхах войны. Это вполне логично с чисто технологической точки зрения, но, более того, это возможно и очень вероятно с политической точки зрения, ведь ИИ уже стал главным двигателем в политике.
Соцсети, принадлежащие техноолигархам, создают и уничтожают политиков, партии и политические движения — благодаря тому, что ИИ уже заточен для манипуляций общественным мнением и влияния на психологию масс. А значит, в итоге именно владельцы соцсетей могут эффективнее всех убеждать народы в необходимости или неприемлемости войн.
Вывод из этого довольно простой: техномиллиардеры крайне заинтересованы в росте военной напряженности между народами и странами, так как «войны будущего» в коммерческом смысле начинаются и заканчиваются в их бизнес-империях.
Сэм Альтман, со-основатель и глава OpenAI:
«Я слышу истории о том, как люди направляют наш ИИ исследовать рынок и придумывать новые продукты. Потом ИИ сам пишет производителям и заказывает производство какой-то безделушки, а затем придумывает для неё рекламу и продаёт её на Амазоне. Пока что это совсем маленькие и максимально скучные идеи, но уже можно дать ИИ доллар, и он запустит, например, игрушечный бизнес, который будет реально работать. Это направление будет развиваться дальше».
«Я думаю, что из-за ИИ многие работы исчезнут, а какие-то изменятся до неузнаваемости. Но у нас всегда хорошо получалось придумывать новые дела и новые способы занять себя чем-то, чтобы продолжать играть в наши статусные игры и быть полезными друг другу. Я не верю, что это куда-то исчезнет. Тем не менее, я думаю, что будущие работы людей будут казаться всё более и более глупыми с нашей сегодняшней точки зрения».
«Думаю, потребители хотят, чтобы мы создали для них ИИ-компаньона (лучшего слова я пока не придумал), который будет жить в эфире и помогать им всеми возможными способами, через все доступные платформы и продукты. Этот компаньон будет изучать человека, узнавать, чего он хочет добиться, собирать его информацию… Иногда он будет что-то подсовывать человеку, иногда человек сам будет задавать вопросы, иногда он будет просто наблюдать за человеком, чтобы в будущем лучше его понимать».
«ИИ-индустрия строит мозг для мира. Этот мозг будет очень персонализированным и лёгким в использовании для всех. Ограничивать нас будут только хорошие идеи. Долгое время технари в индустрии стартапов смеялись над «людьми идей» — теми, у кого была идея и кто искал команду, чтобы её реализовать. Теперь мне кажется, что для таких людей начинаются солнечные дни».
https://youtu.be/mZUG0pr5hBo
«Я слышу истории о том, как люди направляют наш ИИ исследовать рынок и придумывать новые продукты. Потом ИИ сам пишет производителям и заказывает производство какой-то безделушки, а затем придумывает для неё рекламу и продаёт её на Амазоне. Пока что это совсем маленькие и максимально скучные идеи, но уже можно дать ИИ доллар, и он запустит, например, игрушечный бизнес, который будет реально работать. Это направление будет развиваться дальше».
«Я думаю, что из-за ИИ многие работы исчезнут, а какие-то изменятся до неузнаваемости. Но у нас всегда хорошо получалось придумывать новые дела и новые способы занять себя чем-то, чтобы продолжать играть в наши статусные игры и быть полезными друг другу. Я не верю, что это куда-то исчезнет. Тем не менее, я думаю, что будущие работы людей будут казаться всё более и более глупыми с нашей сегодняшней точки зрения».
«Думаю, потребители хотят, чтобы мы создали для них ИИ-компаньона (лучшего слова я пока не придумал), который будет жить в эфире и помогать им всеми возможными способами, через все доступные платформы и продукты. Этот компаньон будет изучать человека, узнавать, чего он хочет добиться, собирать его информацию… Иногда он будет что-то подсовывать человеку, иногда человек сам будет задавать вопросы, иногда он будет просто наблюдать за человеком, чтобы в будущем лучше его понимать».
«ИИ-индустрия строит мозг для мира. Этот мозг будет очень персонализированным и лёгким в использовании для всех. Ограничивать нас будут только хорошие идеи. Долгое время технари в индустрии стартапов смеялись над «людьми идей» — теми, у кого была идея и кто искал команду, чтобы её реализовать. Теперь мне кажется, что для таких людей начинаются солнечные дни».
https://youtu.be/mZUG0pr5hBo
YouTube
Sam Altman | The Future of AI
(If you enjoyed this, please like and subscribe!)
This was a fun one! Sam is my brother and the CEO of a small company in SF called OpenAI. I’m glad he was able to take time out of his busy schedule to give me a hard time and share his thoughts on the future…
This was a fun one! Sam is my brother and the CEO of a small company in SF called OpenAI. I’m glad he was able to take time out of his busy schedule to give me a hard time and share his thoughts on the future…
Можем ли мы освоить энергию космоса?
У Больших технологий есть свои эзотерические учения. В последнее время я несколько раз писал о сингулярности, одном из ключевых понятий техноэзотерики. Сингулярность — это «слияние человека и машины, физического мира и виртуальной реальности», к которому, по мнению техномиллиардеров, скоро приведет развитие ИИ.
Сегодня я хочу поговорить о другой несущей конструкции современной техноэзотерики — шкале Кардашёва. Эта горячо любимая Илоном Маском классификация космических цивилизаций лежит в основе эффективного акселерационизма — философского течения, популярного среди правых техномиллиардеров.
Советский астрофизик Николай Кардашёв в 1964 году написал статью под названием «Передача информации внеземными цивилизациями», в которой предложил оценивать технологическое развитие цивилизаций на основе количества энергии, которой они могут управлять. Эта шкала включает несколько ступеней, по которым цивилизация восходит по мере развития.
Тип 0: Субглобальная цивилизация. Цивилизация нулевого типа еще не может добывать и хранить всю энергию, доступную на ее родной планете. Она в основном полагается на конечные ресурсы, такие как ископаемое топливо, и только начала осваивать возобновляемые источники вроде солнечной или ветряной энергии. Это стадия, на которой сейчас находится человечество (где-то между 0,7 и 0,73 на шкале от 0 до 3).
Тип I: Планетарная цивилизация. Цивилизация типа I овладела не только всей энергией родной планеты, но и способна использовать и хранить всю энергию, которая поступает от ее звезды. Такая цивилизация могла бы контролировать погоду, предотвращать землетрясения и, вероятно, создала устойчивое глобальное общество.
Тип II: Звёздная цивилизация. Цивилизация типа II контролирует уже всю энергию своей родительской звезды, а не только ту часть, которая достигает ее родной планеты. Это теоретически возможно, например, благодаря строительству сферы Дайсона — мегаструктуры, полностью окружающей звезду для сбора всей ее энергии. На этом уровне цивилизация могла бы колонизировать все планеты в своей планетной системе и перемещать их на другие орбиты.
Тип III: Галактическая цивилизация. Цивилизация типа III способна управлять энергией всей своей галактики, включая энергию миллиардов звезд, черных дыр и других космических явлений в пределах своего галактического домена. Такая цивилизация, вероятно, была бы империей из колонизированных звёздных систем, связанных сверхсветовым движением. С нашей точки зрения, такая цивилизация бы почти неотличима от природных сил вселенной.
Эффективные акселерационисты считают, что цель человечества – восхождение по шкале Кардашёва, получение контроля над как можно большим количеством энергии для превращения человечества в планетарную, звездную и даже галактическую цивилизацию. Хотя все это звучит как научная фантастика, развитие ИИ позволяет акселерационистам вроде Альтмана и Маска надеятся на ее реализацию в обозримом будущем.
Меня в этой картине подкупает планетарное мышление, позволяющее выйти за рамки наций и стран, вражды и конкуренции и увидеть человечество как единое целое. С этой точки зрения войны — это цивилизационный фильтр, который по всей вселенной отсеивает никудышние формы жизни, неспособные объединиться для достижения реального развития.
У Больших технологий есть свои эзотерические учения. В последнее время я несколько раз писал о сингулярности, одном из ключевых понятий техноэзотерики. Сингулярность — это «слияние человека и машины, физического мира и виртуальной реальности», к которому, по мнению техномиллиардеров, скоро приведет развитие ИИ.
Сегодня я хочу поговорить о другой несущей конструкции современной техноэзотерики — шкале Кардашёва. Эта горячо любимая Илоном Маском классификация космических цивилизаций лежит в основе эффективного акселерационизма — философского течения, популярного среди правых техномиллиардеров.
Советский астрофизик Николай Кардашёв в 1964 году написал статью под названием «Передача информации внеземными цивилизациями», в которой предложил оценивать технологическое развитие цивилизаций на основе количества энергии, которой они могут управлять. Эта шкала включает несколько ступеней, по которым цивилизация восходит по мере развития.
Тип 0: Субглобальная цивилизация. Цивилизация нулевого типа еще не может добывать и хранить всю энергию, доступную на ее родной планете. Она в основном полагается на конечные ресурсы, такие как ископаемое топливо, и только начала осваивать возобновляемые источники вроде солнечной или ветряной энергии. Это стадия, на которой сейчас находится человечество (где-то между 0,7 и 0,73 на шкале от 0 до 3).
Тип I: Планетарная цивилизация. Цивилизация типа I овладела не только всей энергией родной планеты, но и способна использовать и хранить всю энергию, которая поступает от ее звезды. Такая цивилизация могла бы контролировать погоду, предотвращать землетрясения и, вероятно, создала устойчивое глобальное общество.
Тип II: Звёздная цивилизация. Цивилизация типа II контролирует уже всю энергию своей родительской звезды, а не только ту часть, которая достигает ее родной планеты. Это теоретически возможно, например, благодаря строительству сферы Дайсона — мегаструктуры, полностью окружающей звезду для сбора всей ее энергии. На этом уровне цивилизация могла бы колонизировать все планеты в своей планетной системе и перемещать их на другие орбиты.
Тип III: Галактическая цивилизация. Цивилизация типа III способна управлять энергией всей своей галактики, включая энергию миллиардов звезд, черных дыр и других космических явлений в пределах своего галактического домена. Такая цивилизация, вероятно, была бы империей из колонизированных звёздных систем, связанных сверхсветовым движением. С нашей точки зрения, такая цивилизация бы почти неотличима от природных сил вселенной.
Эффективные акселерационисты считают, что цель человечества – восхождение по шкале Кардашёва, получение контроля над как можно большим количеством энергии для превращения человечества в планетарную, звездную и даже галактическую цивилизацию. Хотя все это звучит как научная фантастика, развитие ИИ позволяет акселерационистам вроде Альтмана и Маска надеятся на ее реализацию в обозримом будущем.
Меня в этой картине подкупает планетарное мышление, позволяющее выйти за рамки наций и стран, вражды и конкуренции и увидеть человечество как единое целое. С этой точки зрения войны — это цивилизационный фильтр, который по всей вселенной отсеивает никудышние формы жизни, неспособные объединиться для достижения реального развития.
«Ваш мозг на ChatGPT»
«Ваш мозг на ChatGPT: накопление когнитивного долга при использовании ИИ-помощника для написания сочинений» — это название свежего исследования ученых из MIT, которое медиа последние 2 недели используют как «научное доказательство» того, что «ИИ делает людей тупыми».
Само название исследования («Your Brain on ChatGPT») играет с популярной в Америке анти-наркотической кампанией конца 1990-х, построенной вокруг фразы «This is your brain on drugs». В флагманской рекламе кампании мужчина со словами «это ваш мозг» показывает целое яйцо, потом разбивает его на горячую сковородку и, указывая на яичницу, говорит: «А это ваш мозг на наркотиках».
В исследовании «Ваш мозг на ChatGPT» участвовали 54 человека (от 18 до 39 лет), которые должны были за несколько месяцев написать несколько сочинений: одна группа писала сочинения, используя ChatGPT, другая — пользуясь поисковиком Google, и третья — без ничего, опираясь «только на мозг». Пока испытуемые писали сочинения, их мозговую активность замерял аппарат ЭЭГ.
Исследователи обнаружили вполне очевидную, как по-моему, закономерность: активнее всех работал мозг людей, использовавших для писательства «только мозг», а пользователи ChatGPT продемонстрировали самую низкую мозговую активность и «отставали на нейронном, лингвистическом и поведенческом уровнях».
Люди, которым ИИ помогал писать сочинение, меньше напрягали мозги, пока их писали, потом их плохо помнили и не считали их в полном смысле своими произведениями. Группа, использовавшая поисковик, показала средние результаты — ближе к тем, кто работал «только мозгом», чем к тем, кто пользовался искусственными нейросетями.
Результаты исследования, на мой взгляд, очевидны и обусловлены форматом эксперимента: не удивительно, что мозг ищет легких путей и экономит энергию. Зато мне понравилась предложенная авторами концепция когнитивного долга — «состояния, в котором повторная опора на внешние системы вроде ИИ заменяет трудоемкие когнитивные процессы, необходимые для независимого мышления».
Когнитивный долг, по мнению ученых из MIT, помогает сэкономить умственные усилия в моменте, но в долгую приводит к ослаблению критического мышления, повышению уязвимости к манипуляциям и снижению креативности. «Когда люди воспроизводят предложения, не оценивая их точность и релевантность, они рискуют усвоить поверхностные и предвзятые точки зрения», — пишут авторы исследования.
Когнитивный долг, безусловно, существует, и с ним связана уязвимость людей к политической пропаганде и рекламным кампаниям, а также к целому вороху психологических проблем. Я считаю, что у каждого из нас есть условная когнитивная норма – необходимость вовлекаться и шевелить мозгами, применять ум к своей жизни.
При этом я не считаю, что нейросети неизбежно увеличат наш когнитивный долг. Скорее, в сфере интеллекта в эпоху ИИ будет работать все тот же эффект Матфея: «у кого есть, тому будет дано еще, и у него будет избыток, а у кого нет, будет отнято и то, что он имеет». Ну а для детей, ради которых, по словам авторов, исследование «Ваш мозг на ChatGPT» и проводилось, нужно придумывать новую систему образования, которая будет вовлекать, а не толкать к копипасту.
https://arxiv.org/abs/2506.08872
«Ваш мозг на ChatGPT: накопление когнитивного долга при использовании ИИ-помощника для написания сочинений» — это название свежего исследования ученых из MIT, которое медиа последние 2 недели используют как «научное доказательство» того, что «ИИ делает людей тупыми».
Само название исследования («Your Brain on ChatGPT») играет с популярной в Америке анти-наркотической кампанией конца 1990-х, построенной вокруг фразы «This is your brain on drugs». В флагманской рекламе кампании мужчина со словами «это ваш мозг» показывает целое яйцо, потом разбивает его на горячую сковородку и, указывая на яичницу, говорит: «А это ваш мозг на наркотиках».
В исследовании «Ваш мозг на ChatGPT» участвовали 54 человека (от 18 до 39 лет), которые должны были за несколько месяцев написать несколько сочинений: одна группа писала сочинения, используя ChatGPT, другая — пользуясь поисковиком Google, и третья — без ничего, опираясь «только на мозг». Пока испытуемые писали сочинения, их мозговую активность замерял аппарат ЭЭГ.
Исследователи обнаружили вполне очевидную, как по-моему, закономерность: активнее всех работал мозг людей, использовавших для писательства «только мозг», а пользователи ChatGPT продемонстрировали самую низкую мозговую активность и «отставали на нейронном, лингвистическом и поведенческом уровнях».
Люди, которым ИИ помогал писать сочинение, меньше напрягали мозги, пока их писали, потом их плохо помнили и не считали их в полном смысле своими произведениями. Группа, использовавшая поисковик, показала средние результаты — ближе к тем, кто работал «только мозгом», чем к тем, кто пользовался искусственными нейросетями.
Результаты исследования, на мой взгляд, очевидны и обусловлены форматом эксперимента: не удивительно, что мозг ищет легких путей и экономит энергию. Зато мне понравилась предложенная авторами концепция когнитивного долга — «состояния, в котором повторная опора на внешние системы вроде ИИ заменяет трудоемкие когнитивные процессы, необходимые для независимого мышления».
Когнитивный долг, по мнению ученых из MIT, помогает сэкономить умственные усилия в моменте, но в долгую приводит к ослаблению критического мышления, повышению уязвимости к манипуляциям и снижению креативности. «Когда люди воспроизводят предложения, не оценивая их точность и релевантность, они рискуют усвоить поверхностные и предвзятые точки зрения», — пишут авторы исследования.
Когнитивный долг, безусловно, существует, и с ним связана уязвимость людей к политической пропаганде и рекламным кампаниям, а также к целому вороху психологических проблем. Я считаю, что у каждого из нас есть условная когнитивная норма – необходимость вовлекаться и шевелить мозгами, применять ум к своей жизни.
При этом я не считаю, что нейросети неизбежно увеличат наш когнитивный долг. Скорее, в сфере интеллекта в эпоху ИИ будет работать все тот же эффект Матфея: «у кого есть, тому будет дано еще, и у него будет избыток, а у кого нет, будет отнято и то, что он имеет». Ну а для детей, ради которых, по словам авторов, исследование «Ваш мозг на ChatGPT» и проводилось, нужно придумывать новую систему образования, которая будет вовлекать, а не толкать к копипасту.
https://arxiv.org/abs/2506.08872
arXiv.org
Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using...
This study explores the neural and behavioral consequences of LLM-assisted essay writing. Participants were divided into three groups: LLM, Search Engine, and Brain-only (no tools). Each completed...