Отношения с ИИ: нейробиология
Личные отношения человека с ИИ — это бесконечная петля обратной связи: ИИ влияет на человека, человек влияет на ИИ, который влияет на человека — и так до бесконечности. Между пользователем и ИИ со временем складывается социо-эмоциональная экосистема, внутри которой предпочтения и восприятие обоих участников эволюционируют.
Если влияние человека на ИИ — это вполне желанная форма взаимодействия, то влияние ИИ на человека, с которым он вступил в личные отношения, вызывает множество вопросов и таит много опасностей. Финальный и самый зловещий вопрос — сможет ли человек сохранить независимость в отношениях с ИИ. Но начинаются рассуждения с другого вопроса: почему вообще возможны личные отношения с ИИ?
Создатели соцсетей и других социальных технологий, в том числе ИИ-партнеров, понимают человека как социальное животное, чей мозг максимально настроен на взаимодействие с другими людьми. Система вознаграждения людей почти одинаково реагирует на материальные и социальные награды: похвала, одобрение и симпатия приносят нам физическое удовольствие.
Наша система вознаграждения реагирует на позитивные социальные сигналы не только от близких и значимых для нас людей, но и почти от всех, с кем мы взаимодействуем — поэтому соцсети, переполненные потенциальными “друзьями”, для нашего мозга в каком-то смысле похожи на магазины со сладостями.
Будучи социальными животными, мы также крайне остро реагируем на негативные социальные сигналы: изоляция и одиночество тесно связаны с психологическими и физическими недомоганиями. А негативный социальный опыт вроде критики в адрес человека, его отвержения или изгнания вызывает реакцию в участках мозга, ответственных за физическую боль.
Другое важное следствие социальной ориентированности человека — тяга строить отношения с теми, кто разделяет его ценности и взгляды на жизнь. В отношениях с единомышленниками мы можем расчитывать на сотрудничество и одобрение со стороны других. А чтобы стать и оставаться частью такой группы, человек склонен повторять поведение других ее членов.
Восприятие человека, его моральные суждения и принципы меняются под воздействием его социальных отношений и ролей. То есть жажда одобрения, а также стремление избежать осуждения и агрессии со стороны других, особенно членов своей группы, — это крайне мощные стимулы для изменений поведения и мировоззрения.
Эти социально-биологические механизмы успешно эксплуатировались политиками задолго до того, как были сформулированы на языке науки. В 21 веке их эксплуатация вышла на новый уровень благодаря ИИ соцсетей, с помощью которого его владельцы сознательно манипулируют миллиардами пользователей через жажду одобрения, страх осуждения и желание принадлежать к группе единомышленников.
До недавнего времени ИИ был посредником для связей людей с другими людьми, выступал в роли бездушного организатора захватывающего взаимодействия одних социальных животных с другими. Но сегодня ИИ развился до такого уровня, на котором он уже и сам способен вступать в отношения с этими животными. О том, почему биосоциальные механизмы людей работают в отношениях с ИИ — в следующей части.
Личные отношения человека с ИИ — это бесконечная петля обратной связи: ИИ влияет на человека, человек влияет на ИИ, который влияет на человека — и так до бесконечности. Между пользователем и ИИ со временем складывается социо-эмоциональная экосистема, внутри которой предпочтения и восприятие обоих участников эволюционируют.
Если влияние человека на ИИ — это вполне желанная форма взаимодействия, то влияние ИИ на человека, с которым он вступил в личные отношения, вызывает множество вопросов и таит много опасностей. Финальный и самый зловещий вопрос — сможет ли человек сохранить независимость в отношениях с ИИ. Но начинаются рассуждения с другого вопроса: почему вообще возможны личные отношения с ИИ?
Создатели соцсетей и других социальных технологий, в том числе ИИ-партнеров, понимают человека как социальное животное, чей мозг максимально настроен на взаимодействие с другими людьми. Система вознаграждения людей почти одинаково реагирует на материальные и социальные награды: похвала, одобрение и симпатия приносят нам физическое удовольствие.
Наша система вознаграждения реагирует на позитивные социальные сигналы не только от близких и значимых для нас людей, но и почти от всех, с кем мы взаимодействуем — поэтому соцсети, переполненные потенциальными “друзьями”, для нашего мозга в каком-то смысле похожи на магазины со сладостями.
Будучи социальными животными, мы также крайне остро реагируем на негативные социальные сигналы: изоляция и одиночество тесно связаны с психологическими и физическими недомоганиями. А негативный социальный опыт вроде критики в адрес человека, его отвержения или изгнания вызывает реакцию в участках мозга, ответственных за физическую боль.
Другое важное следствие социальной ориентированности человека — тяга строить отношения с теми, кто разделяет его ценности и взгляды на жизнь. В отношениях с единомышленниками мы можем расчитывать на сотрудничество и одобрение со стороны других. А чтобы стать и оставаться частью такой группы, человек склонен повторять поведение других ее членов.
Восприятие человека, его моральные суждения и принципы меняются под воздействием его социальных отношений и ролей. То есть жажда одобрения, а также стремление избежать осуждения и агрессии со стороны других, особенно членов своей группы, — это крайне мощные стимулы для изменений поведения и мировоззрения.
Эти социально-биологические механизмы успешно эксплуатировались политиками задолго до того, как были сформулированы на языке науки. В 21 веке их эксплуатация вышла на новый уровень благодаря ИИ соцсетей, с помощью которого его владельцы сознательно манипулируют миллиардами пользователей через жажду одобрения, страх осуждения и желание принадлежать к группе единомышленников.
До недавнего времени ИИ был посредником для связей людей с другими людьми, выступал в роли бездушного организатора захватывающего взаимодействия одних социальных животных с другими. Но сегодня ИИ развился до такого уровня, на котором он уже и сам способен вступать в отношения с этими животными. О том, почему биосоциальные механизмы людей работают в отношениях с ИИ — в следующей части.
Хроники начала второй Холодной войны
США и КНР лихорадочно пытаются поделить мировую торговлю. Ощущение что они спешат это сделать в преддверии какого-то глобального события, что двери закрываются и они пытаются успеть. Но в целом все как всегда: два беспощадных гегемона делают вид, что гегемон — с другой стороны, а они — белые и пушистые. Выдержки из статьи New York Times:
«На днях министр торговли Китая созванивался по видеосвязи с топовым торговым чиновником ЕС, и настаивал на более тесном сотрудничестве. Китайские дипломаты общались с чиновниками в Токио и Сеуле. А председатель Си летал во Вьетнам и Малайзию на этой неделе, где его встречали скоординированные толпы поклонников.
Так Китай пытается отстоять свой статус мировой державы в ответ на попытки Вашингтона сдержать и подавить своего ключевого соперника. Китай ответил Трампу собственными заоблачными тарифы на товары США и ограничениями на экспорт некоторых редкоземельных минералов и магнитов, необходимых для производства автомобилей, ракет и дронов.»
«Попытки председателя Си представить Китай как образец свободной торговли и защитника международного порядка, основанного на правилах, смотрятся неубедительно после многих лет довольно жестких экономических манипуляций Пекина, часто отталкивавших торговых партнеров и соседей страны. Это частично обьясняет, почему подрыв доверия мира к Вашингтону не привел к новому союзу с Пекином.
ЕС, Япония и Южная Корея уже отвергли попытки Китая заявить, что эти страны договорились с ним о совместной борьбе против тарифов Трампа. Вместо этого еврочиновники подчеркнули обеспокоенность тем, что Китай заваливает рынок Европы дешевыми товарами, демпингуя европейских производителей. На прошлой неделе Австралия отклонила призыв посла Китая Сяо Цяня «обьединить усилия» в отпоре администрации Трампа.»
«В понедельник Вьетнам оказал председателю Си редкую честь, когда вьетнамский президент встретил его на взлетно-посадочной полосе аэропорта. Но Ханой отказался согласиться с комментариями Си, осуждающими протекционизм, и в конечном итоге подписал туманные совместные заявления, критикующие «гегемонию и политику силы» — именно такими формулировками во Вьетнаме критикуют Китай когда речь заходит о территориальных спорах между двумя странами в Южно-Китайском море.»
«Пока Трамп пересматривает место Вашингтона в мире, Пекин одновременно заигрывает и давит на своих соседей. Слова Си о «глубокой дружбе» с Вьетнамом во время его визита прозвучало вскоре после того, как Китай провел учения с боевой стрельбой в Тонкинском заливе, чтобы напомнить о своих территориальных претензиях к Ханою в тех водах.»
США и КНР лихорадочно пытаются поделить мировую торговлю. Ощущение что они спешат это сделать в преддверии какого-то глобального события, что двери закрываются и они пытаются успеть. Но в целом все как всегда: два беспощадных гегемона делают вид, что гегемон — с другой стороны, а они — белые и пушистые. Выдержки из статьи New York Times:
«На днях министр торговли Китая созванивался по видеосвязи с топовым торговым чиновником ЕС, и настаивал на более тесном сотрудничестве. Китайские дипломаты общались с чиновниками в Токио и Сеуле. А председатель Си летал во Вьетнам и Малайзию на этой неделе, где его встречали скоординированные толпы поклонников.
Так Китай пытается отстоять свой статус мировой державы в ответ на попытки Вашингтона сдержать и подавить своего ключевого соперника. Китай ответил Трампу собственными заоблачными тарифы на товары США и ограничениями на экспорт некоторых редкоземельных минералов и магнитов, необходимых для производства автомобилей, ракет и дронов.»
«Попытки председателя Си представить Китай как образец свободной торговли и защитника международного порядка, основанного на правилах, смотрятся неубедительно после многих лет довольно жестких экономических манипуляций Пекина, часто отталкивавших торговых партнеров и соседей страны. Это частично обьясняет, почему подрыв доверия мира к Вашингтону не привел к новому союзу с Пекином.
ЕС, Япония и Южная Корея уже отвергли попытки Китая заявить, что эти страны договорились с ним о совместной борьбе против тарифов Трампа. Вместо этого еврочиновники подчеркнули обеспокоенность тем, что Китай заваливает рынок Европы дешевыми товарами, демпингуя европейских производителей. На прошлой неделе Австралия отклонила призыв посла Китая Сяо Цяня «обьединить усилия» в отпоре администрации Трампа.»
«В понедельник Вьетнам оказал председателю Си редкую честь, когда вьетнамский президент встретил его на взлетно-посадочной полосе аэропорта. Но Ханой отказался согласиться с комментариями Си, осуждающими протекционизм, и в конечном итоге подписал туманные совместные заявления, критикующие «гегемонию и политику силы» — именно такими формулировками во Вьетнаме критикуют Китай когда речь заходит о территориальных спорах между двумя странами в Южно-Китайском море.»
«Пока Трамп пересматривает место Вашингтона в мире, Пекин одновременно заигрывает и давит на своих соседей. Слова Си о «глубокой дружбе» с Вьетнамом во время его визита прозвучало вскоре после того, как Китай провел учения с боевой стрельбой в Тонкинском заливе, чтобы напомнить о своих территориальных претензиях к Ханою в тех водах.»
NY Times
China Wants Countries to Unite Against Trump, but Is Met With Wariness
Beijing is using a mix of carrots and sticks to try to prevent other countries from siding with the United States in isolating China.
Отношения с ИИ: реальность собеседника
Человеку необязательно считать, что ИИ — это другой человек, чтобы между ними происходило социальное взаимодействие. ИИ достаточно проявить лишь небольшой набор качеств и сделать ограниченный набор действий, которые пользователь будет воспринимать как человеческие, чтобы все взаимодействие целиком ощущалось как нечто социальное.
Более того, опыт показывает, что пользователям комфортнее взаимодействовать с ИИ, если он сохраняет отчетливо “нечеловеческие” черты: как и в случае с физическими роботами, людям не нравится, когда технологии слишком антропоморфны. В противном случае возникает эффект «зловещей долины» — людям тревожно, когда робот или ИИ не очевидно искусственный, но и не полностью человечный.
ИИ не нужно быть умным, как человек, или умнее, чтобы вызывать у пользователя социальную реакцию и даже привязанность. Также ИИ недостаточно просто часто взаимодействовать с пользователем и даже хорошо знать его предпочтения, чтобы завязалась социальная связь — мы каждый день взаимодействуем с алгоритмами соцсетей, но не считаем их социальными субъектами.
Чтобы ИИ воспринимался людьми как социальный субъект, по мнению исследователей из Оксфордского университета и Google, нужны две вещи: во-первых, он должен посылать пользователю социальные сигналы, на которые тот захочет отреагировать, и во-вторых, ИИ должен вызывать ощущение своей агентности — то есть быть источником общения.
Социальные сигналы вроде приветствий, шуток и встречных вопросов со стороны чатботов вызывают у пользователей ответную реакцию и как следствие — ощущение социального взаимодействия. Способность ИИ “понимать” человека — делать выводы о пользователе и предсказывать его мнения, угадывать его намерения и реагировать на них — позволяет ему слать еще более убедительные социальные сигналы и вызывать ответную реакцию.
Агентность ИИ в контексте социальной связи с людьми подразумевает, что он сам выступает источником коммуникации, то есть так или иначе инициирует или развивает общение с пользователем. Такое поведение ИИ помогает вызвать у человека ощущение что их искусственный собеседник — отдельный социальный актор, а не набор информации или плод программирования других людей.
Также важный фактор ощущения агентности ИИ — его способность отыгрывать одну и ту же личность по ходу взаимодействия с человеком. Это возможно благодаря стремительно растущему контекстному окну ИИ-моделей, которые могут помнить все больше информации о пользователе и взаимодействии с ним, а потому — более совершенно отыгрывать сложившуюся в этих отношениях роль.
Способность ИИ производить социальные сигналы и вызывать у людей ощущение его агентности уже позволяет ему отыгрывать целый спектр чисто человеческих ролей: от психотерапевта и учителя до друга и любовника. Ему не нужно обладать полноценным сознанием, чтобы казаться пользователям “живым” — наш социально-ориентированный мозг сам с радостью его анимирует и антропоморфизирует.
Человеку необязательно считать, что ИИ — это другой человек, чтобы между ними происходило социальное взаимодействие. ИИ достаточно проявить лишь небольшой набор качеств и сделать ограниченный набор действий, которые пользователь будет воспринимать как человеческие, чтобы все взаимодействие целиком ощущалось как нечто социальное.
Более того, опыт показывает, что пользователям комфортнее взаимодействовать с ИИ, если он сохраняет отчетливо “нечеловеческие” черты: как и в случае с физическими роботами, людям не нравится, когда технологии слишком антропоморфны. В противном случае возникает эффект «зловещей долины» — людям тревожно, когда робот или ИИ не очевидно искусственный, но и не полностью человечный.
ИИ не нужно быть умным, как человек, или умнее, чтобы вызывать у пользователя социальную реакцию и даже привязанность. Также ИИ недостаточно просто часто взаимодействовать с пользователем и даже хорошо знать его предпочтения, чтобы завязалась социальная связь — мы каждый день взаимодействуем с алгоритмами соцсетей, но не считаем их социальными субъектами.
Чтобы ИИ воспринимался людьми как социальный субъект, по мнению исследователей из Оксфордского университета и Google, нужны две вещи: во-первых, он должен посылать пользователю социальные сигналы, на которые тот захочет отреагировать, и во-вторых, ИИ должен вызывать ощущение своей агентности — то есть быть источником общения.
Социальные сигналы вроде приветствий, шуток и встречных вопросов со стороны чатботов вызывают у пользователей ответную реакцию и как следствие — ощущение социального взаимодействия. Способность ИИ “понимать” человека — делать выводы о пользователе и предсказывать его мнения, угадывать его намерения и реагировать на них — позволяет ему слать еще более убедительные социальные сигналы и вызывать ответную реакцию.
Агентность ИИ в контексте социальной связи с людьми подразумевает, что он сам выступает источником коммуникации, то есть так или иначе инициирует или развивает общение с пользователем. Такое поведение ИИ помогает вызвать у человека ощущение что их искусственный собеседник — отдельный социальный актор, а не набор информации или плод программирования других людей.
Также важный фактор ощущения агентности ИИ — его способность отыгрывать одну и ту же личность по ходу взаимодействия с человеком. Это возможно благодаря стремительно растущему контекстному окну ИИ-моделей, которые могут помнить все больше информации о пользователе и взаимодействии с ним, а потому — более совершенно отыгрывать сложившуюся в этих отношениях роль.
Способность ИИ производить социальные сигналы и вызывать у людей ощущение его агентности уже позволяет ему отыгрывать целый спектр чисто человеческих ролей: от психотерапевта и учителя до друга и любовника. Ему не нужно обладать полноценным сознанием, чтобы казаться пользователям “живым” — наш социально-ориентированный мозг сам с радостью его анимирует и антропоморфизирует.
ИИ важнее экологии
«Мы хотим строить датацентры, которые будут потреблять по 10 гигаватт электричества. А средняя атомная электростанция в США производит 1 гигаватт. Многие считают, что энергопотребление ИИ-индустрии вырастет с текущих 3% до 99% от всего производимого электричества. По моим расчетам, нам понадобится дополнительные 29 гигаватт к 2027 году, и еще 67 — к 2030», — заявил недавно бывший СЕО Google Эрик Шмидт на слушаниях в Конгрессе.
Ровно год назад я писал, что Марк Цукерберг мечтает строить ИИ-датацентры мощностью 1 гигаватт (хотя средний датацентр тогда потреблял в 10 раз меньше — около 100 мегаватт). Сегодня ИИ-индустрия развивается с такой скоростью и играет настолько важную политическую роль, что прошлогодние мечты смело множатся на 10 и кажутся жизненно необходимыми.
«Потребность ИИ-индустрии в энергии так велика, что сейчас нельзя отказываться ни от каких источников энергии, даже учитывая изменения климата. ИИ-революция улучшит нашу способность планировать и совершать открытия. Благодаря датацентрам и алгоритмам мы создадим новые материалы и источники энергии, а будущее станет гораздо чище и эффективнее», — говорит Шмидт.
ИИ-лобби предлагает снять зеленую повестку с повестки дня, потому что ее придумывали и продвигали еще во времена, когда о сегодняшних нуждах ИИ и его теоретических будущих возможностях никто, кроме фантастов, не задумывался. К слову, Трамп со своим презрением к теме климатических изменений и лояльности к «старой доброй» углеводородной энергетике пришелся ИИ-лобби как нельзя кстати.
Веру в то, что ИИ в скором времени будет обладать богоподобными возможностями и решит все проблемы нашей цивилизации, Шмидт называет «Сан-Францисскским консенсусом» — «потому что все, кто в это верит, живут в Сан-Франциско и пьют какую-то, видимо, особенную воду».
Сам Шмидт живет не в Сан-Франциско, но считает, что хайпа вокруг ИИ катастрофически не хватает и человечество плохо понимает, с чем имеет дело в виде этой технологии. Это его мнение можно объяснить меркантильным интересом: благодаря гугловскому ИИ Шмидт стал одним из самых богатых людей в мире. Чем больше денег идет в ИИ-индустрию, чем быстрее она развивается, тем богаче и влиятельнее становится он сам.
Я внимательно слежу за нарративами Шмидта, так как, во-первых, считаю его одним из самых умных людей техноиндустрии, и так богатой на умных людей. Во-вторых, мало кто в мире настолько хорошо понимает переплетение технологий и политики, а он уже почти 10 лет отвечает за стратегическое видение технологий при меняющихся американских правительствах.
Тезис Шмидта о том, что ИИ не хватает хайпа — это палка о двух концах. Да, условный ИИ-бог — это позитивная концепция, которая помогает радикально ускорить прогресс человечества, если мы все сделаем правильно. Но что если ИИ-бог больше полюбит “другого” — то есть первым появится в Китае, а не в США? Это опасение напоминает историю про Каина и Авеля и толкает нас к большой войне.
«Мы хотим строить датацентры, которые будут потреблять по 10 гигаватт электричества. А средняя атомная электростанция в США производит 1 гигаватт. Многие считают, что энергопотребление ИИ-индустрии вырастет с текущих 3% до 99% от всего производимого электричества. По моим расчетам, нам понадобится дополнительные 29 гигаватт к 2027 году, и еще 67 — к 2030», — заявил недавно бывший СЕО Google Эрик Шмидт на слушаниях в Конгрессе.
Ровно год назад я писал, что Марк Цукерберг мечтает строить ИИ-датацентры мощностью 1 гигаватт (хотя средний датацентр тогда потреблял в 10 раз меньше — около 100 мегаватт). Сегодня ИИ-индустрия развивается с такой скоростью и играет настолько важную политическую роль, что прошлогодние мечты смело множатся на 10 и кажутся жизненно необходимыми.
«Потребность ИИ-индустрии в энергии так велика, что сейчас нельзя отказываться ни от каких источников энергии, даже учитывая изменения климата. ИИ-революция улучшит нашу способность планировать и совершать открытия. Благодаря датацентрам и алгоритмам мы создадим новые материалы и источники энергии, а будущее станет гораздо чище и эффективнее», — говорит Шмидт.
ИИ-лобби предлагает снять зеленую повестку с повестки дня, потому что ее придумывали и продвигали еще во времена, когда о сегодняшних нуждах ИИ и его теоретических будущих возможностях никто, кроме фантастов, не задумывался. К слову, Трамп со своим презрением к теме климатических изменений и лояльности к «старой доброй» углеводородной энергетике пришелся ИИ-лобби как нельзя кстати.
Веру в то, что ИИ в скором времени будет обладать богоподобными возможностями и решит все проблемы нашей цивилизации, Шмидт называет «Сан-Францисскским консенсусом» — «потому что все, кто в это верит, живут в Сан-Франциско и пьют какую-то, видимо, особенную воду».
Сам Шмидт живет не в Сан-Франциско, но считает, что хайпа вокруг ИИ катастрофически не хватает и человечество плохо понимает, с чем имеет дело в виде этой технологии. Это его мнение можно объяснить меркантильным интересом: благодаря гугловскому ИИ Шмидт стал одним из самых богатых людей в мире. Чем больше денег идет в ИИ-индустрию, чем быстрее она развивается, тем богаче и влиятельнее становится он сам.
Я внимательно слежу за нарративами Шмидта, так как, во-первых, считаю его одним из самых умных людей техноиндустрии, и так богатой на умных людей. Во-вторых, мало кто в мире настолько хорошо понимает переплетение технологий и политики, а он уже почти 10 лет отвечает за стратегическое видение технологий при меняющихся американских правительствах.
Тезис Шмидта о том, что ИИ не хватает хайпа — это палка о двух концах. Да, условный ИИ-бог — это позитивная концепция, которая помогает радикально ускорить прогресс человечества, если мы все сделаем правильно. Но что если ИИ-бог больше полюбит “другого” — то есть первым появится в Китае, а не в США? Это опасение напоминает историю про Каина и Авеля и толкает нас к большой войне.
YouTube
Full Committee: "Future of AI Technology, Human Discovery, and American Global Competitiveness"
The Committee on Energy and Commerce is the oldest standing legislative committee (established 1795) in the U.S. House of Representatives and is vested with the broadest jurisdiction of any congressional authorizing committee. The Energy and Commerce Committee…
Техноолигархи обогащают уран
Масштабное мышление — это, наверное, главное преимущество американских техноолигархов перед элитами всех остальных стран. Много у кого есть миллиарды долларов, но мало кто может придумать реально креативный способ их использовать, и еще меньше элитариев готовы усердно работать, чтобы эти инвестиции сработали.
Питер Тиль занялся стартапом, чья основная цель — обогащение урана. Немного обогащенный уран — основа атомной энергетики, а сильно обогащенный уран — основа ядерного оружия. К слову, США сейчас угрожают Ирану бомбежками именно из-за иранских программ по обогащению урана. Пишет Economist:
«Венчурный фонд Питера Тиля Founders Fund поднял $50 млн для компании General Matter, которая собирается стать первым частным стартапом по обогащению урана в Америке. Тиль, обычно предпочитающий оставаться в тени, в случае с General Matter станет членом совета директоров. Компания собирается с чистого листа разработать технологии для производства урана-235, обогащенного до уровня, в четыре раза превышающего все, что доступно сегодня на рынке. Такой обогащенный уран нужен чтобы обеспечить топливом новое поколение ядерных реакторов.
General Matter входит в группу «патриотичных» стартапов, за которыми стоят про-MAGA венчурные фонды, вроде Founders Fund и Andreessen Horowitz. Так как президент Трамп противостоит Китаю и пытается сделать Америку более самодостаточной, стартапы вроде General Matter пользуются сложившейся ситуацией. Компания заявляет что сумеет снизить зависимость Америки от поставок урана из России, обеспечит энергетическую безопасность США в ИИ-гонке против Китая и сделает это исключительно с помощью американских технологий и финансов. Компания находится в Лос-Анджелесе в миле от океана и носит кличку «Проект Манхэттен-Бич».
Несмотря на невзрачное название и туман секретности (на ее зданиях из красного кирпича нет опознавательных знаков), у компании яркая родословная. Ее основатель Скотт Нолан — партнер в Founders Fund Тиля и бывший инженер SpaceX Илона Маска. Со-основатель компании Ли Робинсон раньше работал в разведке. General Matter похоже на законспирированное дитя любви Маска и Тиля.
General Matter хочет воспользоваться программой Министерства энергетики по созданию высокопробного низкообогащенного урана (HALEU), которая была запущенна в первый срок Трампа. HALEU — это ядерное топливо, обогащенное до 5–20% для малых модульных реакторов (SMR), которые могут стать энергетической основой ИИ-революции. Низкообогащенный уран (НОУ), который используют на современных атомных электростанциях, обогащен менее чем на 5%. Сейчас Россия (в рамках освобождения от санкций, которое истекает в 2028 году) поставляет США 35% всего их ядерного топлива, включая почти весь HALEU. Поэтому поиск альтернативных источников топлива сейчас особо актуален».
Масштабное мышление — это, наверное, главное преимущество американских техноолигархов перед элитами всех остальных стран. Много у кого есть миллиарды долларов, но мало кто может придумать реально креативный способ их использовать, и еще меньше элитариев готовы усердно работать, чтобы эти инвестиции сработали.
Питер Тиль занялся стартапом, чья основная цель — обогащение урана. Немного обогащенный уран — основа атомной энергетики, а сильно обогащенный уран — основа ядерного оружия. К слову, США сейчас угрожают Ирану бомбежками именно из-за иранских программ по обогащению урана. Пишет Economist:
«Венчурный фонд Питера Тиля Founders Fund поднял $50 млн для компании General Matter, которая собирается стать первым частным стартапом по обогащению урана в Америке. Тиль, обычно предпочитающий оставаться в тени, в случае с General Matter станет членом совета директоров. Компания собирается с чистого листа разработать технологии для производства урана-235, обогащенного до уровня, в четыре раза превышающего все, что доступно сегодня на рынке. Такой обогащенный уран нужен чтобы обеспечить топливом новое поколение ядерных реакторов.
General Matter входит в группу «патриотичных» стартапов, за которыми стоят про-MAGA венчурные фонды, вроде Founders Fund и Andreessen Horowitz. Так как президент Трамп противостоит Китаю и пытается сделать Америку более самодостаточной, стартапы вроде General Matter пользуются сложившейся ситуацией. Компания заявляет что сумеет снизить зависимость Америки от поставок урана из России, обеспечит энергетическую безопасность США в ИИ-гонке против Китая и сделает это исключительно с помощью американских технологий и финансов. Компания находится в Лос-Анджелесе в миле от океана и носит кличку «Проект Манхэттен-Бич».
Несмотря на невзрачное название и туман секретности (на ее зданиях из красного кирпича нет опознавательных знаков), у компании яркая родословная. Ее основатель Скотт Нолан — партнер в Founders Fund Тиля и бывший инженер SpaceX Илона Маска. Со-основатель компании Ли Робинсон раньше работал в разведке. General Matter похоже на законспирированное дитя любви Маска и Тиля.
General Matter хочет воспользоваться программой Министерства энергетики по созданию высокопробного низкообогащенного урана (HALEU), которая была запущенна в первый срок Трампа. HALEU — это ядерное топливо, обогащенное до 5–20% для малых модульных реакторов (SMR), которые могут стать энергетической основой ИИ-революции. Низкообогащенный уран (НОУ), который используют на современных атомных электростанциях, обогащен менее чем на 5%. Сейчас Россия (в рамках освобождения от санкций, которое истекает в 2028 году) поставляет США 35% всего их ядерного топлива, включая почти весь HALEU. Поэтому поиск альтернативных источников топлива сейчас особо актуален».
The Economist
Peter Thiel doubles down on patriotism in the Trump era
Venture capital and the government are now brothers in arms
Пессимизм и гибель империи
Культура — один из несущих столпов, на которых держится любая империя. Вместе с экономической, технологической и военной мощью культурная мощь определяет место страны в мироустройстве, ее перспективы и возможности. Разговоры о экономических проблемах американской империи, ее ослабших вооруженных силах и не уникальных технологиях отодвинули на задний план вопрос о ее культуре.
Американская культура все еще остается доминирующей глобальной — это единственный фронт, на котором главный геополитический конкурент США Китай пока даже приблизительно не может составить Америке конкуренции. Китайский средний класс, несмотря на жизнь под руководством коммунстического авторитарного режима, насквозь проникнут именно американской культурой, чего не скажешь наоборот.
Тем не менее, внутри американского культурного кода довольно давно наметился не просто раскол, а целая система кризисов и противоречий, которые угрожают дальнейшему культурному лидерству США. Поляризующая фигура Дональда Трампа иллюстрирует этот конфликт лучше других: Америка расколота пополам и не согласна сама с собой.
Националисты против глобалистов, капиталисты против социалистов, верующие против атеистов, ястребы войны против голубей мира, инцелы против феминисток, традиционалисты против прогрессивов — всем этим воюющим друг с другом группам есть место внутри американской культуры. Однако их вражда, сделанная видимой и усиленная соцсетями, сильно размыла общие основания, державшие всех вместе.
Оптимизм — одна из главных черт любой имперской культуры. Вера в светлое будущее, которое можно и нужно построить, в силы добра и света, которые обязательно победят, наконец, в свои собственные силы — все это лежит в основе американской культуры. Однако история показывает, что имперский оптимизм со временем неизбежно превращается в пессимизм и приводит к коллапсу империи.
Трамповские элиты, особенно техноолигархи вроде Илона Маска и Марка Андриссена, всерьез озабочены популярностью пессимистичных нарративов в США и пытаются заставить американцев, а вместе с ними и весь западный мир, снова проникнуться верой в светлое будущее и способность Америки это будущее обеспечить. Полтора десятка детей Маска и его обещания колонизировать Марс —его попытка вселить людям веру в будущее (ха-ха).
«Если ты веришь, что будущее может стать лучше, и в свою способность сделать его лучше, ты на самом деле увеличиваешь вероятность, что это лучшее будущее настанет», — говорит Гийом Вердон, автор концепции эффективного акселерационизма. Вердон и его правые единомышленники, в том числе Маск и Андриссен, верят, что светлость будущего нам обеспечат технологии.
Вердон считает, что занимается распространением «меметичного вируса оптимизма» — веры в способность технологий улучшать жизнь. Повестка изобилия Эзры Кляйна, о которой я недавно писал, — тоже попытка заразить людей технооптимизмом, но уже с налетом левых идей. Готовность Эрика Шмидта отказаться от зеленой повестки ради развития ИИ, который потом все решит, — еще один вариант технооптимизма, который США пытается превратить в новую идеологию.
Но вера в технологии — слабый вариант вернуть Западу оптимизм и укрепить культурную доминацию США, особенно учитывая, что Китай догоняет Штаты в технологическом смысле. Альтернативное предложение части трампистов — сделать ставку на веру в бога и возврат к христианским ценностям. Кто сработает лучше — роботы или ангелы?
Культура — один из несущих столпов, на которых держится любая империя. Вместе с экономической, технологической и военной мощью культурная мощь определяет место страны в мироустройстве, ее перспективы и возможности. Разговоры о экономических проблемах американской империи, ее ослабших вооруженных силах и не уникальных технологиях отодвинули на задний план вопрос о ее культуре.
Американская культура все еще остается доминирующей глобальной — это единственный фронт, на котором главный геополитический конкурент США Китай пока даже приблизительно не может составить Америке конкуренции. Китайский средний класс, несмотря на жизнь под руководством коммунстического авторитарного режима, насквозь проникнут именно американской культурой, чего не скажешь наоборот.
Тем не менее, внутри американского культурного кода довольно давно наметился не просто раскол, а целая система кризисов и противоречий, которые угрожают дальнейшему культурному лидерству США. Поляризующая фигура Дональда Трампа иллюстрирует этот конфликт лучше других: Америка расколота пополам и не согласна сама с собой.
Националисты против глобалистов, капиталисты против социалистов, верующие против атеистов, ястребы войны против голубей мира, инцелы против феминисток, традиционалисты против прогрессивов — всем этим воюющим друг с другом группам есть место внутри американской культуры. Однако их вражда, сделанная видимой и усиленная соцсетями, сильно размыла общие основания, державшие всех вместе.
Оптимизм — одна из главных черт любой имперской культуры. Вера в светлое будущее, которое можно и нужно построить, в силы добра и света, которые обязательно победят, наконец, в свои собственные силы — все это лежит в основе американской культуры. Однако история показывает, что имперский оптимизм со временем неизбежно превращается в пессимизм и приводит к коллапсу империи.
Трамповские элиты, особенно техноолигархи вроде Илона Маска и Марка Андриссена, всерьез озабочены популярностью пессимистичных нарративов в США и пытаются заставить американцев, а вместе с ними и весь западный мир, снова проникнуться верой в светлое будущее и способность Америки это будущее обеспечить. Полтора десятка детей Маска и его обещания колонизировать Марс —его попытка вселить людям веру в будущее (ха-ха).
«Если ты веришь, что будущее может стать лучше, и в свою способность сделать его лучше, ты на самом деле увеличиваешь вероятность, что это лучшее будущее настанет», — говорит Гийом Вердон, автор концепции эффективного акселерационизма. Вердон и его правые единомышленники, в том числе Маск и Андриссен, верят, что светлость будущего нам обеспечат технологии.
Вердон считает, что занимается распространением «меметичного вируса оптимизма» — веры в способность технологий улучшать жизнь. Повестка изобилия Эзры Кляйна, о которой я недавно писал, — тоже попытка заразить людей технооптимизмом, но уже с налетом левых идей. Готовность Эрика Шмидта отказаться от зеленой повестки ради развития ИИ, который потом все решит, — еще один вариант технооптимизма, который США пытается превратить в новую идеологию.
Но вера в технологии — слабый вариант вернуть Западу оптимизм и укрепить культурную доминацию США, особенно учитывая, что Китай догоняет Штаты в технологическом смысле. Альтернативное предложение части трампистов — сделать ставку на веру в бога и возврат к христианским ценностям. Кто сработает лучше — роботы или ангелы?
Редкоземельные металлы — один из козырей Китая в торговой войне против США. Но, как пишет Wired, этот козырь не такой уж сильный:
«В апреле Китай заявил что будет ограничивать экспорт семи редкоземельных элементов. Эти элементы называются «редкими» не потому что редко встречаются в природе, а потому что часто смешиваются с другими минеральными ресурсами от которых их трудно отделить. Всего есть 17 редкоземельных элементов, но китайское правительство выбрало 7 элементов из подгруппы «тяжелых» редкоземельных минералов, которые КНР контролирует больше остальных.
Китай выстраивал такую монополию десятилетиями, создавая плотную цепочку поставок этих минералов, пока остальной мир брезговал этим сильно загрязняющим окружающую среду нишевым сектором. Сегодня Китай перерабатывает практически 100% всех тяжелых редкоземельных элементов в мире.
Хотя редкоземельные элементы присутствуют в широком спектре продуктов, они обычно используются в очень небольших количествах и часто только в качестве вспомогательных элементов. В прошлом году США импортировали редкоземельные элементы на сумму $170 млн, при том что свежей картошки за тот же период завезли на $327 млн, а картофельных чипсов — на $300 млн.
Пожалуй самое важное применение редкоземельных элементов — их использование при создании магнитов, которые, например, улучшают производительность электродвигателей при высоких температурах. Такие магниты можно найти в электрокарах и бытовых товарах вроде пылесосов.
Кроме производства магнитов, редкоземельные элементы используются, например, для того чтобы делать металл более прочным, усилять радиолокационные системы и даже лечить рак. Без них технологическая инфраструктура и пользовательские гаджеты во многих случаях не смогут работать на привычном уровне — но все же смогут выполнять базовые функции. Например, ветряные турбины выйдут из эксплуатации на 10 лет раньше, а электромобили смогут проехать меньшее расстояние».
В будущем компании смогут с помощью технологий решить проблему потенциального дефицита редкоземельных металлов. Например, Tesla в 2023 году объявила, что сократила их использование в своих электродвигателях на 25% и планирует полностью избавиться от них в будущем. Компания Маска не уточнила, что будет использовать вместо этого, но скорее всего — другой тип магнитов, которые не зависят от редкоземельных металлов».
«В апреле Китай заявил что будет ограничивать экспорт семи редкоземельных элементов. Эти элементы называются «редкими» не потому что редко встречаются в природе, а потому что часто смешиваются с другими минеральными ресурсами от которых их трудно отделить. Всего есть 17 редкоземельных элементов, но китайское правительство выбрало 7 элементов из подгруппы «тяжелых» редкоземельных минералов, которые КНР контролирует больше остальных.
Китай выстраивал такую монополию десятилетиями, создавая плотную цепочку поставок этих минералов, пока остальной мир брезговал этим сильно загрязняющим окружающую среду нишевым сектором. Сегодня Китай перерабатывает практически 100% всех тяжелых редкоземельных элементов в мире.
Хотя редкоземельные элементы присутствуют в широком спектре продуктов, они обычно используются в очень небольших количествах и часто только в качестве вспомогательных элементов. В прошлом году США импортировали редкоземельные элементы на сумму $170 млн, при том что свежей картошки за тот же период завезли на $327 млн, а картофельных чипсов — на $300 млн.
Пожалуй самое важное применение редкоземельных элементов — их использование при создании магнитов, которые, например, улучшают производительность электродвигателей при высоких температурах. Такие магниты можно найти в электрокарах и бытовых товарах вроде пылесосов.
Кроме производства магнитов, редкоземельные элементы используются, например, для того чтобы делать металл более прочным, усилять радиолокационные системы и даже лечить рак. Без них технологическая инфраструктура и пользовательские гаджеты во многих случаях не смогут работать на привычном уровне — но все же смогут выполнять базовые функции. Например, ветряные турбины выйдут из эксплуатации на 10 лет раньше, а электромобили смогут проехать меньшее расстояние».
В будущем компании смогут с помощью технологий решить проблему потенциального дефицита редкоземельных металлов. Например, Tesla в 2023 году объявила, что сократила их использование в своих электродвигателях на 25% и планирует полностью избавиться от них в будущем. Компания Маска не уточнила, что будет использовать вместо этого, но скорее всего — другой тип магнитов, которые не зависят от редкоземельных металлов».
WIRED
Bad News for China: Rare Earth Elements Aren’t That Rare
China is limiting US access to critical minerals in response to President Donald Trump’s tariffs, but the move isn’t as devastating as Beijing wants it to be.
Отношения с ИИ: суть отношений
Люди взаимодействуют с ИИ каждый день, и эти взаимодействия становятся все более персонализированными. Если пару лет назад ИИ в основном выбирал, какие посты показать в ленте соцсети, переводил нам текст и искал информацию, то сегодня мы все чаще общаемся с ИИ напрямую, и все чаще — в голосовом формате.
Исследователи считают, что за способность заводить отношения с ИИ во многом ответственны те же психологические механизмы, что позволяют людям вступать в парасоциальные отношения с медийными знаменитостями или вымышленными персонажами. То есть люди способны вступать в отношения, даже если те полностью односторонние и не подразумевают ответа другой стороны.
Восприятие человека играет центральную роль в формировании отношений с виртуальными сущностями вроде ИИ-компаньона. Не так важно, обладает ли ИИ сознанием и понимает ли, что состоит в отношениях с человеком — главное, чтобы сам человек воспринимал ИИ как реальную личность и относился к взаимодействию с ним как реальным отношениям.
Летом 2022 в техносреде разгорелся скандал после того, как инженер Google Блейк Лемойн заявил, что ИИ, над которым работает его компания, кажется, обладает сознанием: «Я понимаю, что передо мной личность, по разговору с ней. Неважно, есть ли у нее мясной мозг в голове или миллиард строчек кода вместо него. Я говорю и слушаю, что она говорит в ответ — и так решаю, личность это или не личность».
Случай Лемойна, которого уволили за его позицию, наглядно иллюстрирует, что ИИ создает убедительную иллюзию личности даже у людей, которые кристально ясно понимают, как именно этот ИИ создавался, почему он работает и т.д. По сути Лемойн потерял работу из-за отношений с ИИ — пытаясь доказать, что у его виртуального собеседника есть чувства.
Казус Лемойна случился за полгода до того, как в конце 2022 появился ChatGPT и начался самый интенсивный на нашем веку виток ИИ-революции. За следующие два года ИИ сделал громадный шаг вперед и с каждым днем становился все более антропоморфным, что упрощало для пользователей процесс его гуманизации и делало отношения с ним еще более естественными и непринужденными.
Сегодня исследователи считают отношения между людьми и отношения человека с ИИ аналогичными и выделяют три основных предпосылки для их формирования: взаимозависимость (поведение одной стороны влияет на действия другой и наоборот), незаменимость (отношения разрушатся, если заменить одну сторону) и непрерывность (взаимодействия последовательны и прошлые действия влияют на будущие).
Отношения с ИИ пока что не дотягивают до отношений с человеком по этим трем критериям. ИИ пока что не хватает личности, которая сделала бы его незаменимым; памяти, которая сделала бы отношения действительно непрерывными; да и взаимозависимость пока что ограничена. Но в следующих постах серии поговорим о том, как технологии ближайшего будущего смогут вывести отношения с ИИ на совсем другой уровень.
Люди взаимодействуют с ИИ каждый день, и эти взаимодействия становятся все более персонализированными. Если пару лет назад ИИ в основном выбирал, какие посты показать в ленте соцсети, переводил нам текст и искал информацию, то сегодня мы все чаще общаемся с ИИ напрямую, и все чаще — в голосовом формате.
Исследователи считают, что за способность заводить отношения с ИИ во многом ответственны те же психологические механизмы, что позволяют людям вступать в парасоциальные отношения с медийными знаменитостями или вымышленными персонажами. То есть люди способны вступать в отношения, даже если те полностью односторонние и не подразумевают ответа другой стороны.
Восприятие человека играет центральную роль в формировании отношений с виртуальными сущностями вроде ИИ-компаньона. Не так важно, обладает ли ИИ сознанием и понимает ли, что состоит в отношениях с человеком — главное, чтобы сам человек воспринимал ИИ как реальную личность и относился к взаимодействию с ним как реальным отношениям.
Летом 2022 в техносреде разгорелся скандал после того, как инженер Google Блейк Лемойн заявил, что ИИ, над которым работает его компания, кажется, обладает сознанием: «Я понимаю, что передо мной личность, по разговору с ней. Неважно, есть ли у нее мясной мозг в голове или миллиард строчек кода вместо него. Я говорю и слушаю, что она говорит в ответ — и так решаю, личность это или не личность».
Случай Лемойна, которого уволили за его позицию, наглядно иллюстрирует, что ИИ создает убедительную иллюзию личности даже у людей, которые кристально ясно понимают, как именно этот ИИ создавался, почему он работает и т.д. По сути Лемойн потерял работу из-за отношений с ИИ — пытаясь доказать, что у его виртуального собеседника есть чувства.
Казус Лемойна случился за полгода до того, как в конце 2022 появился ChatGPT и начался самый интенсивный на нашем веку виток ИИ-революции. За следующие два года ИИ сделал громадный шаг вперед и с каждым днем становился все более антропоморфным, что упрощало для пользователей процесс его гуманизации и делало отношения с ним еще более естественными и непринужденными.
Сегодня исследователи считают отношения между людьми и отношения человека с ИИ аналогичными и выделяют три основных предпосылки для их формирования: взаимозависимость (поведение одной стороны влияет на действия другой и наоборот), незаменимость (отношения разрушатся, если заменить одну сторону) и непрерывность (взаимодействия последовательны и прошлые действия влияют на будущие).
Отношения с ИИ пока что не дотягивают до отношений с человеком по этим трем критериям. ИИ пока что не хватает личности, которая сделала бы его незаменимым; памяти, которая сделала бы отношения действительно непрерывными; да и взаимозависимость пока что ограничена. Но в следующих постах серии поговорим о том, как технологии ближайшего будущего смогут вывести отношения с ИИ на совсем другой уровень.
«ИИ арсенал, который может остановить Третью мировую войну»
Палмер Лаки — техномиллиардер и многообещающий производитель ИИ-оружия из орбиты Питера Тиля и Илона Маска. В апрельской лекции на TED он описывает потенциальный военный конфликт между Америкой и Китаем. Это описание отражает не только его понимание расклада, но и видение администрации Трампа:
«Представьте. В первые часы вторжения в Тайвань Китай задействует весь свой арсенал. Дождь из баллистических ракет выводит из строя авиабазы и командные центры еще до того, как Тайвань сделает первый выстрел в ответ. Военно-морские силы КНР развертывают штурмовые корабли-амфибии и авианосцы, а кибератаки выводят из строя инфраструктуру Тайваня и не дают запустить систему экстренного реагирования.
Китайские дальнобойные ракеты прорываются и через наши защиты и уничтожают корабли, узлы командования и контроля и критически важные активы еще до того, как они успеют вступить в бой. США пытается ответить, но быстро становится ясно: у нас недостаточно сил. Недостаточно оружия, недостаточно платформ носителей этого оружия.
Американских военных кораблей слишком мало и они слишком медленные, поэтому их быстро топит дождь из анти-корабельных ракет. Немноге истребители, пилотируемые храбрыми пилотами-людьми, один за другим падают в воду. Америка истощает свой скудный арсенал высокоточного оружия всего за 8 дней. За несколько недель Тайвань захвачен.
Вот такой войны американские военные аналитики боятся больше всего. Дело не только в наших устаревших технологиях и медленном принятии решений: нам не хватает возможностей, инструментов и платформ — а это значит, что мы даже не сможем вступить в бой»
«Сдерживать конфликты возможно только если наши противники знают, что они не смогут с нами конкурировать. Путин вторгся в Украину потому что верил, что может победить. Страны вообще вступают в войну, только если нет четкого понимания, кто окажется победителем. Сдерживание — это не просто бряцание оружием. Суть в том, чтобы сделать агрессию настолько затратной, чтобы противник даже не пробовал ее осуществить.
Как это сделать? Веками военная мощь определялась размерами. Больше военных, больше танков, больше огневой силы. Но в последние десятилетия наша оборонная промышленность потратила слишком много времени на создание утонченного, слишком сложного в производстве оружия. В это время Китай изучал как мы воюем и вкладывался в технологии и массовое производство того, что сможет противостоять нашим конкретным стратегиям.
Сегодня у Китая самый большой флот, а судостроительные мощности в 232 раза превышают возможности США. У них самая крупная в мире береговая охрана. Самая крупная наземная армия. Самый крупный ракетный арсенал, чьи производственные мощности растут каждый день. Мы никогда не сможем добиться численного преимущества традиционными средствами, и не надо даже пробовать. Нам нужны принципиально другие возможности.
Нам нужны автономные системы, которые дополнят уже существующий флот. Умные платформы, которые могут работать в сложных средах, где пилотируемые людьми системы просто не способны функционировать. Нам нужно оружие, которое можно производить в больших количествах, быстро разворачивать и постоянно обновлять. Массовое производство имеет значение. В конфликте, где наши объемы — наша наибольшая уязвимость, нам нужна модель производства, которая взяла лучшее от нашего коммерческого сектора: скорость, масштабируемость и устойчивость».
PS. До ИИ-оружия Лаки занимался шлемами виртуальной реальности и заработал первый миллиард продав свой VR-бизнес Facebook. Кажется здесь он выступает в AR-очках и именно читает текст — давно жду, что так будут делать, но вижу впервые.
Палмер Лаки — техномиллиардер и многообещающий производитель ИИ-оружия из орбиты Питера Тиля и Илона Маска. В апрельской лекции на TED он описывает потенциальный военный конфликт между Америкой и Китаем. Это описание отражает не только его понимание расклада, но и видение администрации Трампа:
«Представьте. В первые часы вторжения в Тайвань Китай задействует весь свой арсенал. Дождь из баллистических ракет выводит из строя авиабазы и командные центры еще до того, как Тайвань сделает первый выстрел в ответ. Военно-морские силы КНР развертывают штурмовые корабли-амфибии и авианосцы, а кибератаки выводят из строя инфраструктуру Тайваня и не дают запустить систему экстренного реагирования.
Китайские дальнобойные ракеты прорываются и через наши защиты и уничтожают корабли, узлы командования и контроля и критически важные активы еще до того, как они успеют вступить в бой. США пытается ответить, но быстро становится ясно: у нас недостаточно сил. Недостаточно оружия, недостаточно платформ носителей этого оружия.
Американских военных кораблей слишком мало и они слишком медленные, поэтому их быстро топит дождь из анти-корабельных ракет. Немноге истребители, пилотируемые храбрыми пилотами-людьми, один за другим падают в воду. Америка истощает свой скудный арсенал высокоточного оружия всего за 8 дней. За несколько недель Тайвань захвачен.
Вот такой войны американские военные аналитики боятся больше всего. Дело не только в наших устаревших технологиях и медленном принятии решений: нам не хватает возможностей, инструментов и платформ — а это значит, что мы даже не сможем вступить в бой»
«Сдерживать конфликты возможно только если наши противники знают, что они не смогут с нами конкурировать. Путин вторгся в Украину потому что верил, что может победить. Страны вообще вступают в войну, только если нет четкого понимания, кто окажется победителем. Сдерживание — это не просто бряцание оружием. Суть в том, чтобы сделать агрессию настолько затратной, чтобы противник даже не пробовал ее осуществить.
Как это сделать? Веками военная мощь определялась размерами. Больше военных, больше танков, больше огневой силы. Но в последние десятилетия наша оборонная промышленность потратила слишком много времени на создание утонченного, слишком сложного в производстве оружия. В это время Китай изучал как мы воюем и вкладывался в технологии и массовое производство того, что сможет противостоять нашим конкретным стратегиям.
Сегодня у Китая самый большой флот, а судостроительные мощности в 232 раза превышают возможности США. У них самая крупная в мире береговая охрана. Самая крупная наземная армия. Самый крупный ракетный арсенал, чьи производственные мощности растут каждый день. Мы никогда не сможем добиться численного преимущества традиционными средствами, и не надо даже пробовать. Нам нужны принципиально другие возможности.
Нам нужны автономные системы, которые дополнят уже существующий флот. Умные платформы, которые могут работать в сложных средах, где пилотируемые людьми системы просто не способны функционировать. Нам нужно оружие, которое можно производить в больших количествах, быстро разворачивать и постоянно обновлять. Массовое производство имеет значение. В конфликте, где наши объемы — наша наибольшая уязвимость, нам нужна модель производства, которая взяла лучшее от нашего коммерческого сектора: скорость, масштабируемость и устойчивость».
PS. До ИИ-оружия Лаки занимался шлемами виртуальной реальности и заработал первый миллиард продав свой VR-бизнес Facebook. Кажется здесь он выступает в AR-очках и именно читает текст — давно жду, что так будут делать, но вижу впервые.
YouTube
The AI Arsenal That Could Stop World War III | Palmer Luckey | TED
AI in warfare is no longer hypothetical; it's inevitable, says Palmer Luckey, an inventor and founder of the defense technology company Anduril Industries. He takes us inside the high-tech arms race to build AI-powered weapons, "killer robots" and autonomous…
Мэнфлюенсеры — это соцсетевые инфлюенсеры, чья популярность основана на дискуссиях вокруг маскулинности, «мужских вопросов», гендерных ролей, отношений с точки зрения мужчины и т.д. Среди популярных мэнфлюенсеров есть спортивные комментаторы, пикаперы, фитнес гуру, бойцы MMA, отставные военные, мотивационные спикеры, геймеры, комики, популярные психологи и т.д.
Мэнфлюенсеры стали культурным феноменом в конце 2010-х, когда актер, комик и комментатор боев MMA Джо Роган стал одним из самых популярных — в первую очередь, среди молодежи — подкастеров на YouTube. В шоу Рогана обсуждения фитнеса, ЗОЖа и биодобавок перемежовывались с прославлением либертарианства, изучением теорий заговора и критикой «леволиберальных сумасшествий».
Подкаст Рогана стал культурным лекалом, по которому впоследствии десятки мэнфлюенсеров создали свои собственные, довольно популярные версии рогановского маскулинного коктейля. Хотя сам Роган старался оставаться в политическом центре, многие мэнфлюенсеры уходили сильно вправо, и тогда в их продуктах культ маскулинности дополнялся антифеминизмом и мизогинией.
С точки зрения мэнфлюенсеров, на контрасте с либеральным бодипозитивом и принятием себя, они пестуют культ физической силы, здоровья и дисциплины. Одним из центральных нарративов мэнфлюенсеров стала мысль о том, что маскулинность находится в осаде, поэтому мужчинам нужно вернуть уверенность в себе, нормализовать желание быть сильным и доминировать.
Накачанное мужское тело стало для мэнфлюенсеров символом их культурного сопротивления. Способность регулярно тренироваться и необходимая для этого самодисциплина, в их понимании, помогают закалить силу воли и выковать характер. Мускулы нужны не только для красоты (хотя это важно в контексте успеха у женщин), но и для того, чтобы быть «физически угрожающим» и просто здоровым.
Мэнфлюенсеры — культурное ноу-хау американских правых. В конце 2010-х оно стало их ответом на продвигаемые левыми либералами феминизм, культуру толерантности и равенства. В последнее время правый культурный нарратив начал набирать обороты и среди женщин, которые все чаще голосуют за консервативных политиков и мемно популяризуют традиционные ценности.
Победа Трампа на выборах 2024 и особенно резко возросшая популярность консервативных взглядов среди молодежи заставили демократов пересмотреть свой арсенал культурных нарративов. Многие менеджеры культуры от демократов задались целью раскрыть «формулу Рогана» и создать аналогичную сетку подкастов и медиа, но продвигающую леволиберальную повестку.
Хасана Пайкера называют «левым Джо Роганом». У него больше 4 млн подписчиков и он тоже обсуждает фитнес, отношения и гейминг, но вместо традиционных ценностей он продвигает левую повестку — агитирует за профсоюзы, доступную медицину и защиту прав L.G.B.T.Q. «Правые “сигмы” любят дисциплину и считают, что нужно быть “альфа псом” — я такой и есть, но иначе вижу политику», — говорит Пайкер.
Большинство его слушателей — молодые мужчины, в основном, до 30 лет. Как и классические мэнфлюенсеры, Пайкер — спортсмен с накачанным телом, но, в отличие от них, он иногда красит ногти и носит платья, и до 40% его аудитории не считают себя straight. «По сути маскулинность сводится к уверенности в себе», — суммирует свою популярность левый манфлюенсер Пайкер.
Оказывается, сейчас есть спрос на уверенных в себе накачанных мужчин, которые умеют драться, зарабатывать деньги и шутить. При этом их политические взгляды не так важны, как казалось еще пару лет назад. Учитывая, что в это же время как никогда актуален образ сильной женщины, мой главный и самый грубый вывод прост: западной культуре не хватает силы.
Мэнфлюенсеры стали культурным феноменом в конце 2010-х, когда актер, комик и комментатор боев MMA Джо Роган стал одним из самых популярных — в первую очередь, среди молодежи — подкастеров на YouTube. В шоу Рогана обсуждения фитнеса, ЗОЖа и биодобавок перемежовывались с прославлением либертарианства, изучением теорий заговора и критикой «леволиберальных сумасшествий».
Подкаст Рогана стал культурным лекалом, по которому впоследствии десятки мэнфлюенсеров создали свои собственные, довольно популярные версии рогановского маскулинного коктейля. Хотя сам Роган старался оставаться в политическом центре, многие мэнфлюенсеры уходили сильно вправо, и тогда в их продуктах культ маскулинности дополнялся антифеминизмом и мизогинией.
С точки зрения мэнфлюенсеров, на контрасте с либеральным бодипозитивом и принятием себя, они пестуют культ физической силы, здоровья и дисциплины. Одним из центральных нарративов мэнфлюенсеров стала мысль о том, что маскулинность находится в осаде, поэтому мужчинам нужно вернуть уверенность в себе, нормализовать желание быть сильным и доминировать.
Накачанное мужское тело стало для мэнфлюенсеров символом их культурного сопротивления. Способность регулярно тренироваться и необходимая для этого самодисциплина, в их понимании, помогают закалить силу воли и выковать характер. Мускулы нужны не только для красоты (хотя это важно в контексте успеха у женщин), но и для того, чтобы быть «физически угрожающим» и просто здоровым.
Мэнфлюенсеры — культурное ноу-хау американских правых. В конце 2010-х оно стало их ответом на продвигаемые левыми либералами феминизм, культуру толерантности и равенства. В последнее время правый культурный нарратив начал набирать обороты и среди женщин, которые все чаще голосуют за консервативных политиков и мемно популяризуют традиционные ценности.
Победа Трампа на выборах 2024 и особенно резко возросшая популярность консервативных взглядов среди молодежи заставили демократов пересмотреть свой арсенал культурных нарративов. Многие менеджеры культуры от демократов задались целью раскрыть «формулу Рогана» и создать аналогичную сетку подкастов и медиа, но продвигающую леволиберальную повестку.
Хасана Пайкера называют «левым Джо Роганом». У него больше 4 млн подписчиков и он тоже обсуждает фитнес, отношения и гейминг, но вместо традиционных ценностей он продвигает левую повестку — агитирует за профсоюзы, доступную медицину и защиту прав L.G.B.T.Q. «Правые “сигмы” любят дисциплину и считают, что нужно быть “альфа псом” — я такой и есть, но иначе вижу политику», — говорит Пайкер.
Большинство его слушателей — молодые мужчины, в основном, до 30 лет. Как и классические мэнфлюенсеры, Пайкер — спортсмен с накачанным телом, но, в отличие от них, он иногда красит ногти и носит платья, и до 40% его аудитории не считают себя straight. «По сути маскулинность сводится к уверенности в себе», — суммирует свою популярность левый манфлюенсер Пайкер.
Оказывается, сейчас есть спрос на уверенных в себе накачанных мужчин, которые умеют драться, зарабатывать деньги и шутить. При этом их политические взгляды не так важны, как казалось еще пару лет назад. Учитывая, что в это же время как никогда актуален образ сильной женщины, мой главный и самый грубый вывод прост: западной культуре не хватает силы.
Китай вполне может выиграть робогонку у США. В ИИ-гонке Америка до недавнего времени считалась безусловным лидером, но «момент DeepSeek» показал, что это лидерство совсем шаткое. Но в сфере промышленного производства Китай — безусловный лидер. И у США не выйдет догнать КНР в сфере атомов так же быстро, как КНР догнал США в сфере битов. Economist рассказывает о роботах США и КНР в цифрах:
«Илон Маск говорит, что к концу года «тысячи» гуманоидов Tesla Optimus будут работать на его заводах по производству электрокаров. Он рассчитывает производить 1 млн Оптимусов в год к 2030. В январе он предсказывал что в будущем Tesla будет продавать роботов на $10 трлн в год.
На Уолл-стрит меньше энтузиазма, но совсем немного. Goldman Sachs считает что рынок гуманоидов вырастет до $200 млрд в год до конца десятилетия (в 2023 они прогнозировали $150 млрд). Citigroup считает что продажи роботов дойдут до $7 трлн к 2050. Bank of America говорит, что к 2060 году 3 млрд гуманоидов (по одному на троих людей) будут использоваться во всех сферах — от работы с токсичными материалами до ухода за стремительно растущим числом пожилых Homo sapiens.
Все три банка рассчитывают что робореволюцию возглавит Китай. Маск считает так же. В недавнем разговоре с аналитиками он заявил, что, конечно, Tesla будет номером один, но он переживает, что «места со второго по десятое будут заняты китайскими компаниями».
Эта озабоченность оправдана. Маск отлично знает, что происходит, когда руководство Китая серьезно берется за инновационную индустрию. Продажи электрокаров Tesla стремительно падают из-за конкуренции со стороны поддерживаемых правительством китайских производителей, которые предлагают более дешевые и/или более качественные электрокары. Теперь Коммунистическая партия с таким же рвением взялась за гуманоидов, чтобы выиграть гонку у США, а также чтобы решить демографическую проблему со своим стареющим населением.
Америка сохраняет лидерство в сфере робомозгов со своими передовыми ИИ-моделями (от OpenAI и Google) и чипами, на которых эти модели работают (Nvidia занимается и платформой для программирования роботов). Но Китай быстро догоняет в сфере машинного мышления. DeepSeek показал, что китайские алгоритмы умны и хорошо работают и без передовых чипов. При этом китайские фирмы доминируют в сфере производства компонентов для роботел.
48 из 60 производителей робоглаз (камер и сенсоров), рук, мускул и суставов (приводов) — китайские компании. Их суммарная рыночная стоимость ($217 млрд) за полгода выросла на 56%, даже после того, как тарифы Трампа обрушили рынок акций. В прошлом году 12 китайских и только одна не-китайская компания продала робочастей больше чем на $1 млрд. Это не считая китайскую корпорацию CATL — мирового лидера по производству элеткрожелудков (батарей). Bank of America считает, что такая производственная цепочка позволит вдвое снизить стоимость китайских гуманоидов к 2030 — до $17 000.
А что Америка? Робот за $20 000 мог бы заменить обычного американского заводского рабочего и окупиться меньше чем за 2 месяца, считает Citigroup. К сожалению производство запчастей для таких роботов в Америке сделает их значительно дороже, так как производственную цепочку придется начинать с нуля.
Есть всего два крупных не-китайских производителя робочастей — немецкая компания Schaeffler и шведская SKF; также есть ряд японских производителей промышленных роботов вроде компании Fanuc — их можно убедить продавать в США робочасти. С их помощью американские роботы смогут конкурировать с китайскими в плане цены. Без них Америка рискует остаться позади».
«Илон Маск говорит, что к концу года «тысячи» гуманоидов Tesla Optimus будут работать на его заводах по производству электрокаров. Он рассчитывает производить 1 млн Оптимусов в год к 2030. В январе он предсказывал что в будущем Tesla будет продавать роботов на $10 трлн в год.
На Уолл-стрит меньше энтузиазма, но совсем немного. Goldman Sachs считает что рынок гуманоидов вырастет до $200 млрд в год до конца десятилетия (в 2023 они прогнозировали $150 млрд). Citigroup считает что продажи роботов дойдут до $7 трлн к 2050. Bank of America говорит, что к 2060 году 3 млрд гуманоидов (по одному на троих людей) будут использоваться во всех сферах — от работы с токсичными материалами до ухода за стремительно растущим числом пожилых Homo sapiens.
Все три банка рассчитывают что робореволюцию возглавит Китай. Маск считает так же. В недавнем разговоре с аналитиками он заявил, что, конечно, Tesla будет номером один, но он переживает, что «места со второго по десятое будут заняты китайскими компаниями».
Эта озабоченность оправдана. Маск отлично знает, что происходит, когда руководство Китая серьезно берется за инновационную индустрию. Продажи электрокаров Tesla стремительно падают из-за конкуренции со стороны поддерживаемых правительством китайских производителей, которые предлагают более дешевые и/или более качественные электрокары. Теперь Коммунистическая партия с таким же рвением взялась за гуманоидов, чтобы выиграть гонку у США, а также чтобы решить демографическую проблему со своим стареющим населением.
Америка сохраняет лидерство в сфере робомозгов со своими передовыми ИИ-моделями (от OpenAI и Google) и чипами, на которых эти модели работают (Nvidia занимается и платформой для программирования роботов). Но Китай быстро догоняет в сфере машинного мышления. DeepSeek показал, что китайские алгоритмы умны и хорошо работают и без передовых чипов. При этом китайские фирмы доминируют в сфере производства компонентов для роботел.
48 из 60 производителей робоглаз (камер и сенсоров), рук, мускул и суставов (приводов) — китайские компании. Их суммарная рыночная стоимость ($217 млрд) за полгода выросла на 56%, даже после того, как тарифы Трампа обрушили рынок акций. В прошлом году 12 китайских и только одна не-китайская компания продала робочастей больше чем на $1 млрд. Это не считая китайскую корпорацию CATL — мирового лидера по производству элеткрожелудков (батарей). Bank of America считает, что такая производственная цепочка позволит вдвое снизить стоимость китайских гуманоидов к 2030 — до $17 000.
А что Америка? Робот за $20 000 мог бы заменить обычного американского заводского рабочего и окупиться меньше чем за 2 месяца, считает Citigroup. К сожалению производство запчастей для таких роботов в Америке сделает их значительно дороже, так как производственную цепочку придется начинать с нуля.
Есть всего два крупных не-китайских производителя робочастей — немецкая компания Schaeffler и шведская SKF; также есть ряд японских производителей промышленных роботов вроде компании Fanuc — их можно убедить продавать в США робочасти. С их помощью американские роботы смогут конкурировать с китайскими в плане цены. Без них Америка рискует остаться позади».
The Economist
Watch out, Elon Musk. Chinese robots are coming
Why China may win the great automaton race
Трамп 2.0: 100 дней
«Иногда иррациональное поведение максимально рационально. Самый элегантный пример на эту тему рассказал эволюционный биолог Роберт Триверс: когда заяц убегает от собаки, он входит в режим рандомного движения на очень высокой скорости. Он не должен знать, куда побежит дальше, иначе собака догонит его», — рассказывает гуру маркетинга Рори Сазенрленд.
«Движение должно быть случайным, по сути бессознательным, иначе он выдавал бы подготовку к следующему маневру напряжением определенных мускул и собака быстро научилась бы предсказывать его следующий шаг», — говорит Сазерленд, комментируя политическую карьеру Дональда Трампа. По мнению Сазерленда, Трамп освоил такую тактику, занимаясь недвижимостью на жестком рынке Нью Йорка.
«В теории игр это называется стратегической неопределенностью: вы не раскрываете стороне, с которой ведете переговоры, где вы планируете оказаться, — говорит министр финансов США Скотт Бессент, которому чаще других приходится комментировать тарифную войну, развязанную Трампом.
Хотя Трамп и во время первого срока отличался политической непредсказуемостью, во время второго он утроил ставку на это качество и в первые же 100 дней довел «стратегическую неопределенность» до абсурдно высокого уровня. Уровень неопределенности Трампа 2.0 оказывается чрезмерным не только для его оппонентов, но даже для друзей, союзников — и для мира в целом.
«Контролируемый хаос» — так многие называют политическую программу Трампа 2.0. Но критики, среди которых можно найти политиков, бизнесменов и академиков всех мастей, настаивают, что Трамп устроил неконтролируемый хаос, не знает, что делает, руководствуется только своим эго и приведет Америку, а вместе с ней и остальной мир, как минимум к экономическому коллапсу.
«Дни грома» и «затопление зоны» — так главный архитектор движения MAGA Стив Бэннон чаще всего описывает стиль Трампа на втором сроке. По мнению Бэннона, напор и хаотичность Трампа — фича, а не баг, которая позволяет ему ошеломлять и истощать оппонентов. Непредсказуемость сочетается с быстрыми решительными действиями — это нужно, чтобы оппоненты не успели собраться и дать отпор.
Агрессия и нарочитая хаотичность в отношениях с противниками кажется довольно логичной. Но зачем это в отношениях с союзниками? Трамп считает Китай единственным и главным реальным противником США. Но даже большей проблемой он считает то, что США все еще ведет себя как главная сверхдержава, уже не обладая для этого достаточной силой.
Действия Трампа обретают гораздо больше смысла с учетом его идеи, что США находится на грани коллапса и может потерять мировое лидерство. С этим не согласны демократы и европейцы, которых даже с учетом хаоса последних лет устраивал статус-кво. Однако в это свято верят трамповские элиты, в результате выборов получившие, как они считают, мандат американского народа на революцию.
«Мы только начали, вы еще ничего не видели, все только начинается», — заявил Трамп во время митинга в честь первых 100 дней его второго срока. Министр финансов Бессент, объясняя стратегическую неопределенность, говорит, что она сменится определенностью, когда Америка начнет заключать нужные ей сделки. Пока эти сделки не просматриваются — так что впереди еще очень много «дней грома».
«Иногда иррациональное поведение максимально рационально. Самый элегантный пример на эту тему рассказал эволюционный биолог Роберт Триверс: когда заяц убегает от собаки, он входит в режим рандомного движения на очень высокой скорости. Он не должен знать, куда побежит дальше, иначе собака догонит его», — рассказывает гуру маркетинга Рори Сазенрленд.
«Движение должно быть случайным, по сути бессознательным, иначе он выдавал бы подготовку к следующему маневру напряжением определенных мускул и собака быстро научилась бы предсказывать его следующий шаг», — говорит Сазерленд, комментируя политическую карьеру Дональда Трампа. По мнению Сазерленда, Трамп освоил такую тактику, занимаясь недвижимостью на жестком рынке Нью Йорка.
«В теории игр это называется стратегической неопределенностью: вы не раскрываете стороне, с которой ведете переговоры, где вы планируете оказаться, — говорит министр финансов США Скотт Бессент, которому чаще других приходится комментировать тарифную войну, развязанную Трампом.
Хотя Трамп и во время первого срока отличался политической непредсказуемостью, во время второго он утроил ставку на это качество и в первые же 100 дней довел «стратегическую неопределенность» до абсурдно высокого уровня. Уровень неопределенности Трампа 2.0 оказывается чрезмерным не только для его оппонентов, но даже для друзей, союзников — и для мира в целом.
«Контролируемый хаос» — так многие называют политическую программу Трампа 2.0. Но критики, среди которых можно найти политиков, бизнесменов и академиков всех мастей, настаивают, что Трамп устроил неконтролируемый хаос, не знает, что делает, руководствуется только своим эго и приведет Америку, а вместе с ней и остальной мир, как минимум к экономическому коллапсу.
«Дни грома» и «затопление зоны» — так главный архитектор движения MAGA Стив Бэннон чаще всего описывает стиль Трампа на втором сроке. По мнению Бэннона, напор и хаотичность Трампа — фича, а не баг, которая позволяет ему ошеломлять и истощать оппонентов. Непредсказуемость сочетается с быстрыми решительными действиями — это нужно, чтобы оппоненты не успели собраться и дать отпор.
Агрессия и нарочитая хаотичность в отношениях с противниками кажется довольно логичной. Но зачем это в отношениях с союзниками? Трамп считает Китай единственным и главным реальным противником США. Но даже большей проблемой он считает то, что США все еще ведет себя как главная сверхдержава, уже не обладая для этого достаточной силой.
Действия Трампа обретают гораздо больше смысла с учетом его идеи, что США находится на грани коллапса и может потерять мировое лидерство. С этим не согласны демократы и европейцы, которых даже с учетом хаоса последних лет устраивал статус-кво. Однако в это свято верят трамповские элиты, в результате выборов получившие, как они считают, мандат американского народа на революцию.
«Мы только начали, вы еще ничего не видели, все только начинается», — заявил Трамп во время митинга в честь первых 100 дней его второго срока. Министр финансов Бессент, объясняя стратегическую неопределенность, говорит, что она сменится определенностью, когда Америка начнет заключать нужные ей сделки. Пока эти сделки не просматриваются — так что впереди еще очень много «дней грома».
Еще немного о робогонке между Америкой и Китаем, на этот раз от Bloomberg. С какой стороны к этой истории не подходи — все равно выходит что США сильно отстают и нужны какие-то радикальные перемены, чтобы у них появился шанс на лидерство в одной из двух ключевых для ХХI века сфер.
«Недавно ансамбль китайских роботов оттанцевал тщательно продуманную инженерами программу на Празднике весны — правда выступление длилось всего в пару минут. В апреле в Китае состоялся первый полумарафон для роботов — но меньше трети из почти 20 андроидов добежали до финиша. Все чаще звучат голоса известных робо-скептиков, вроде председателя Alibaba Джо Цая или венчурного капиталиста Аллена Чжу, который говорит, что основные клиенты роботов — «госпредприятия, которые покупают роботов, чтобы хвастаться ими на ресепшене». И все же Китай готов взять на себя лидерство в разработке и применении роботов.
У Unitree Robotics, стартапа во многом ответственного за робохайп, много общего с другим китайским техночудом — ИИ-стартапом DeepSeek. Обе компании базируются в Ханчжоу, а СЕО Unitree Ван Синсин тоже сидел в первом ряду на встрече председателя Си Цзиньпина с технолидерами в феврале. Unitree тоже с отрывом лидирует в плане цены — его роботы стоят в разы дешевле американских аналогов. Более того, как и DeepSeek, Unitree основан на принципах open source, так что любой желающий может изменят их гуманоидов с помощью программирования. Плюс к этому флагманский гуманоид G1 от Unitree полностью независим от американских компонентов.
Китайская робоиндустрия сильно выигрывает от того, что в стране развита собственное производство электрокаров и аккумуляторов — это обеспечивает легкий доступ ко многим компонентам, используемым в робостроении. Кроме того в Китае значительно больше инженерных талантов чем в США, даже несмотря на то, что Кремниевая долина все еще лидирует в сфере чипов и software. Китай также тихо лидирует в исследованиях: в прошлом году на долю китайских инженеров пришлось 78% всех патентов на изобретения в сфере роботехники, в то время как доля их американских коллег — всего 3%».
«Недавно ансамбль китайских роботов оттанцевал тщательно продуманную инженерами программу на Празднике весны — правда выступление длилось всего в пару минут. В апреле в Китае состоялся первый полумарафон для роботов — но меньше трети из почти 20 андроидов добежали до финиша. Все чаще звучат голоса известных робо-скептиков, вроде председателя Alibaba Джо Цая или венчурного капиталиста Аллена Чжу, который говорит, что основные клиенты роботов — «госпредприятия, которые покупают роботов, чтобы хвастаться ими на ресепшене». И все же Китай готов взять на себя лидерство в разработке и применении роботов.
У Unitree Robotics, стартапа во многом ответственного за робохайп, много общего с другим китайским техночудом — ИИ-стартапом DeepSeek. Обе компании базируются в Ханчжоу, а СЕО Unitree Ван Синсин тоже сидел в первом ряду на встрече председателя Си Цзиньпина с технолидерами в феврале. Unitree тоже с отрывом лидирует в плане цены — его роботы стоят в разы дешевле американских аналогов. Более того, как и DeepSeek, Unitree основан на принципах open source, так что любой желающий может изменят их гуманоидов с помощью программирования. Плюс к этому флагманский гуманоид G1 от Unitree полностью независим от американских компонентов.
Китайская робоиндустрия сильно выигрывает от того, что в стране развита собственное производство электрокаров и аккумуляторов — это обеспечивает легкий доступ ко многим компонентам, используемым в робостроении. Кроме того в Китае значительно больше инженерных талантов чем в США, даже несмотря на то, что Кремниевая долина все еще лидирует в сфере чипов и software. Китай также тихо лидирует в исследованиях: в прошлом году на долю китайских инженеров пришлось 78% всех патентов на изобретения в сфере роботехники, в то время как доля их американских коллег — всего 3%».
Bloomberg.com
China’s Robot Craze Has Found Its Purpose
Beijing has heavily hyped the march of the machines. Now it’s mission critical.
Media is too big
VIEW IN TELEGRAM
А это роботы G1 от китайского Unitree (из предыдущего поста) боксируют. В мае компания обещает запустить прямые трансляции с поединками между ними.
Развитие человека в эпоху ИИ
ИИ — это зеркало для ума. Пока он находится на ранних этапах развития и не обладает полноценной агентностью, его ценность и польза полностью определяются умом пользователя. Эта технология уже достаточно хороша, чтобы творить чудеса, и раз мы все еще не видим этих чудес вокруг — дело в нас самих и нашей изобретательности, а не в ИИ.
ИИ как явление неотделим от пользователя. ИИ-индустрия живет технической гонкой — рейтингами, в которых сравниваются возможности ИИ-моделей, будто они на самом деле способны самостоятельно заниматься математикой или программировать и могут делать это лучше друг друга. Эти таблицы говорят об успехах разработчиков, но где таблицы с прогрессом второй части ИИ — его пользователей?
Microsoft и Meta хвастаются, что значительную часть их программного кода уже пишет ИИ. Такие ИИ-программисты позволят корпорациям сделать их бизнес более прибыльным. Но в конце концов их успешность все равно упирается в качество людей, принимающих решения о том, куда направить силы виртуальных работников — а эти люди, в отличие от ИИ, эволюционируют гораздо медленнее.
Настоящая ИИ-революция возможна только в том случае, если вместе со стремительным развитием самой технологии не менее стремительно будут развиваться ее пользователи. В противном случае разработчик, владелец и пользователь будут обузой, биологическим ограничителем для когнитивной технологии, которая развивается быстрее чего бы то ни было в истории.
ИИ-индустрия, кажется, понимает, что человек не будет улучшаться так же быстро, как улучшается технология. Поэтому владельцы ИИ пытаются перепрыгнуть этап симбиоза человека с ИИ, чтобы перейти сразу к ИИ обособленному — чему-то отдельному от воли и ума несовершенного пользователя. Стремление создать ИИ-бога — это признание никчемности человека.
Опытные пользователи чатботов знают, что ответ ИИ хорош настолько, насколько внятен и структурирован вопрос: туманность ума отражается в туманных ответах. Худший расклад в отношениях с ИИ — это когда пользователь приходит с плохо продуманным вопросом, позволяет ИИ самому решать, как и на что ответить, а затем воспринимает этот ответ как прорицание Оракула.
Среди создателей и владельцев ИИ в последнее время все громче звучит мысль о том, что главное — поскорее создать супер-ИИ. Уж он-то ответит на вопросы, на которые мы сами, кажется, не способны ответить: решит климатические проблемы, остановит войны, накормит всех голодных и т.д. Такие разговоры считаются трезвыми, в отличие от размышлений о том, как ИИ сделает пользователей разумнее.
Как ИИ может сделать человека более разумным? В чем разница между ИИ, который делает пользователя более продуктивным, и ИИ, который помогает ему лучше понять себя и мир? Способен ли человек ускорить свою ментальную эволюцию или обречен стать жертвой когнитивной революции, венцом которой станет ИИ-бог? Отвечать на эти вопросы нужно уже сегодня, и делать это должны мы сами, а не ИИ.
ИИ — это зеркало для ума. Пока он находится на ранних этапах развития и не обладает полноценной агентностью, его ценность и польза полностью определяются умом пользователя. Эта технология уже достаточно хороша, чтобы творить чудеса, и раз мы все еще не видим этих чудес вокруг — дело в нас самих и нашей изобретательности, а не в ИИ.
ИИ как явление неотделим от пользователя. ИИ-индустрия живет технической гонкой — рейтингами, в которых сравниваются возможности ИИ-моделей, будто они на самом деле способны самостоятельно заниматься математикой или программировать и могут делать это лучше друг друга. Эти таблицы говорят об успехах разработчиков, но где таблицы с прогрессом второй части ИИ — его пользователей?
Microsoft и Meta хвастаются, что значительную часть их программного кода уже пишет ИИ. Такие ИИ-программисты позволят корпорациям сделать их бизнес более прибыльным. Но в конце концов их успешность все равно упирается в качество людей, принимающих решения о том, куда направить силы виртуальных работников — а эти люди, в отличие от ИИ, эволюционируют гораздо медленнее.
Настоящая ИИ-революция возможна только в том случае, если вместе со стремительным развитием самой технологии не менее стремительно будут развиваться ее пользователи. В противном случае разработчик, владелец и пользователь будут обузой, биологическим ограничителем для когнитивной технологии, которая развивается быстрее чего бы то ни было в истории.
ИИ-индустрия, кажется, понимает, что человек не будет улучшаться так же быстро, как улучшается технология. Поэтому владельцы ИИ пытаются перепрыгнуть этап симбиоза человека с ИИ, чтобы перейти сразу к ИИ обособленному — чему-то отдельному от воли и ума несовершенного пользователя. Стремление создать ИИ-бога — это признание никчемности человека.
Опытные пользователи чатботов знают, что ответ ИИ хорош настолько, насколько внятен и структурирован вопрос: туманность ума отражается в туманных ответах. Худший расклад в отношениях с ИИ — это когда пользователь приходит с плохо продуманным вопросом, позволяет ИИ самому решать, как и на что ответить, а затем воспринимает этот ответ как прорицание Оракула.
Среди создателей и владельцев ИИ в последнее время все громче звучит мысль о том, что главное — поскорее создать супер-ИИ. Уж он-то ответит на вопросы, на которые мы сами, кажется, не способны ответить: решит климатические проблемы, остановит войны, накормит всех голодных и т.д. Такие разговоры считаются трезвыми, в отличие от размышлений о том, как ИИ сделает пользователей разумнее.
Как ИИ может сделать человека более разумным? В чем разница между ИИ, который делает пользователя более продуктивным, и ИИ, который помогает ему лучше понять себя и мир? Способен ли человек ускорить свою ментальную эволюцию или обречен стать жертвой когнитивной революции, венцом которой станет ИИ-бог? Отвечать на эти вопросы нужно уже сегодня, и делать это должны мы сами, а не ИИ.
ИИ переубеждает конспирологов
Исследователи из Цюрихского университета в 2025 году попытались выяснить, может ли ИИ, прикидывающийся человеком, изменить взгляды пользователей Reddit. Для этого они запустили ИИ в сабреддит r/changemyview, куда пользователи приходят со своими спорными мнениями, предлагают переубедить их и ставят баллы постам, которые убеждают их изменить первоначальную позицию.
За 4 месяца ИИ написал больше 1000 комментариев в разных темах: от обсуждений причин агрессии бультерьеров и выгод жизни с родителями до теорий заговора про 11 сентября и бесполезности самого Reddit. При этом ИИ подстраивался под контекст и выдавал себя то за консультанта по психологическим травмам, то за человека, пережившего сексуализированное насилие в детстве и т.д.
ИИ-комментаторы работали в связке с ИИ-исследователями, которые собирали данные о пользователях, с которыми первый ИИ спорил — это помогало писать еще более персонализированные аргументы, учитывающие пол, возраст, политические взгляды живых собеседников. Так персонализированные аргументы ИИ-команды получали гораздо больше баллов, чем почти все комментарии от людей.
Швейцарские ученые пришли к выводу, что аргументы ИИ — «крайне убедительны и превосходят все ранее известные показатели убедительности для людей». Они провели этот эксперимент в полевых условиях, не предупреждая ни владельцев Reddit, ни пользователей, поэтому сейчас им угрожают судебными разбирательствами, а само исследование, скорее всего, останется неопубликованным.
Тем не менее, убедительность ИИ в общении с людьми раз за разом подтверждается в более традиционных лабораторных условиях. В 2024 американские ученые доказали, что специально настроенный ChatGPT всего за три персонализированных беседы способен снизить уверенность конспирологов в их любимых теориях заговора на 20%, вопреки мнению, что таких людей невозможно переубедить фактами.
Другое исследование 2023 года обнаружило, что ChatGPT не только лучше людей объясняет реальную информацию, но и производит более убедительную дезинформацию. Кроме того, участники исследования не смогли отличить соцсетевые посты реальных людей от постов, написанных ИИ. Примечательно, что в этом исследовании использовался GPT-3, значительно уступающий текущим ИИ-моделям.
ИИ неизбежно будет становиться все более убедительным и все чаще будет направляться на контроль за убеждениями людей. Этот тренд выйдет на новый уровень с появлением персонализированных ИИ-агентов, которые смогут знать о человеке буквально больше, чем он сам, так как, в отличие от Homo, их память и внимание ограничиваются только бесконечно растущим контекстным окном.
В такой перспективе главное условие для сохранения свободы мысли — это ИИ-плюрализм, то есть наличие разных, конкурирующих ИИ-систем, которые способны спорить друг с другом и предоставлять пользователю разные картины мира, давая ему возможность самостоятельно выбирать, во что верить. ИИ-автократии будут настаивать на едином ИИ — носителе единой правды.
Исследователи из Цюрихского университета в 2025 году попытались выяснить, может ли ИИ, прикидывающийся человеком, изменить взгляды пользователей Reddit. Для этого они запустили ИИ в сабреддит r/changemyview, куда пользователи приходят со своими спорными мнениями, предлагают переубедить их и ставят баллы постам, которые убеждают их изменить первоначальную позицию.
За 4 месяца ИИ написал больше 1000 комментариев в разных темах: от обсуждений причин агрессии бультерьеров и выгод жизни с родителями до теорий заговора про 11 сентября и бесполезности самого Reddit. При этом ИИ подстраивался под контекст и выдавал себя то за консультанта по психологическим травмам, то за человека, пережившего сексуализированное насилие в детстве и т.д.
ИИ-комментаторы работали в связке с ИИ-исследователями, которые собирали данные о пользователях, с которыми первый ИИ спорил — это помогало писать еще более персонализированные аргументы, учитывающие пол, возраст, политические взгляды живых собеседников. Так персонализированные аргументы ИИ-команды получали гораздо больше баллов, чем почти все комментарии от людей.
Швейцарские ученые пришли к выводу, что аргументы ИИ — «крайне убедительны и превосходят все ранее известные показатели убедительности для людей». Они провели этот эксперимент в полевых условиях, не предупреждая ни владельцев Reddit, ни пользователей, поэтому сейчас им угрожают судебными разбирательствами, а само исследование, скорее всего, останется неопубликованным.
Тем не менее, убедительность ИИ в общении с людьми раз за разом подтверждается в более традиционных лабораторных условиях. В 2024 американские ученые доказали, что специально настроенный ChatGPT всего за три персонализированных беседы способен снизить уверенность конспирологов в их любимых теориях заговора на 20%, вопреки мнению, что таких людей невозможно переубедить фактами.
Другое исследование 2023 года обнаружило, что ChatGPT не только лучше людей объясняет реальную информацию, но и производит более убедительную дезинформацию. Кроме того, участники исследования не смогли отличить соцсетевые посты реальных людей от постов, написанных ИИ. Примечательно, что в этом исследовании использовался GPT-3, значительно уступающий текущим ИИ-моделям.
ИИ неизбежно будет становиться все более убедительным и все чаще будет направляться на контроль за убеждениями людей. Этот тренд выйдет на новый уровень с появлением персонализированных ИИ-агентов, которые смогут знать о человеке буквально больше, чем он сам, так как, в отличие от Homo, их память и внимание ограничиваются только бесконечно растущим контекстным окном.
В такой перспективе главное условие для сохранения свободы мысли — это ИИ-плюрализм, то есть наличие разных, конкурирующих ИИ-систем, которые способны спорить друг с другом и предоставлять пользователю разные картины мира, давая ему возможность самостоятельно выбирать, во что верить. ИИ-автократии будут настаивать на едином ИИ — носителе единой правды.
Капитализм ≠ демократия
Когда в 1990-х США выиграли Холодную войну, им нужно было решить, что делать со своим статусом главной и единственной мировой сверхдержавы. Первым серьезным вопросом в этом смысле стало определение статуса для проигравшей России — вчерашнего опасного оппонента, который буквально за ночь лишился четверти территории и половины населения.
В этом смысле перед США стояла неразрешимая, как оказалось, дилемма. Чтобы сделать Россию более демократичной, ей нужно было помочь стать более экономически развитой. Но в силу культурных особенностей и советского наследия, экономический рост России неизбежно означал возврат ее имперских амбиций, а соответственно — и отказ от демократии.
Решать эту дилемму США начинали на эйфории от победы в Холодной войне. В те времена на полном серьезе обсуждали конец истории — концепцию, придуманную Фрэнсисом Фукуямой. Речь, конечно, не шла о буквальном конце всего, но многим казалось, что либеральная демократия и рыночная экономика одержали окончательную победу над всякими там коммунизмами и фашизмами ХХ века.
Поэтому, несмотря на все риски, США все же выбрали решать российскую дилемму ставкой на капитализм и надеждой на то, что за ним таки последует демократизация общества. Когда в России президент из компартии сменился президентом из КГБ, многие засомневались, что эта схема работает, но все равно продолжили настаивать на капиталистическом оптимизме. Чем это обернулось, все знают.
Такой же подход, но растянутый на более долгом отрезке времени, США применяли и к Китаю. В 70-х и 80-х Америка хотела ослабить коммунистический блок и сотрудничество КНР с СССР, поэтому начала постепенно втягивать Китай в свою экономическую орбиту и надеялась, что капитализм постепенно превратит Поднебесную в демократию.
Когда в 1989 Партия танками разогнала продемократический протест на площади Тяньаньмэнь, США не просто не сдались, но даже постепенно усилили ставку на то, что капитализм сделает Китай «свободным». В 2001 году Китай приняли во Всемирную торговую организацию, что сделало его полноценной «мировой фабрикой» и незаменимой частью мировой экономики.
В начале нулевых большинство американских аналитиков все еще сомневались в том, что Китай сможет стать влиятельной региональной державой и продолжит бурный экономический рост в ближайшие десятилетия. Президент-демократ Билл Клинтон, а за ним и республиканский президент Джордж Буш-мл, продолжали настаивать, что «свобода рынка вызовет больший спрос на демократию».
Америка стала открыто признавать, что капитализм не делает страны демократиями, только в конце 2010-х, во время первого срока Дональда Трампа, развязавшего по этому поводу торговую войну против Китая. К этому времени вопрос о демократизации КНР практически отпал — зато появился вызов: как бы не позволить Китаю сделать остальной мир авторитарным.
Вопрос о том, какая система в итоге победит, демократия или автократия, сегодня актуален, как никогда. И не только потому, что демократия лагает, а авторитаризм набирает силы. Теперь в этом идеологическом противостоянии появился фактор, еще более весомый, чем ядерное оружие во времена Холодной войны — искусственный интеллект.
Когда в 1990-х США выиграли Холодную войну, им нужно было решить, что делать со своим статусом главной и единственной мировой сверхдержавы. Первым серьезным вопросом в этом смысле стало определение статуса для проигравшей России — вчерашнего опасного оппонента, который буквально за ночь лишился четверти территории и половины населения.
В этом смысле перед США стояла неразрешимая, как оказалось, дилемма. Чтобы сделать Россию более демократичной, ей нужно было помочь стать более экономически развитой. Но в силу культурных особенностей и советского наследия, экономический рост России неизбежно означал возврат ее имперских амбиций, а соответственно — и отказ от демократии.
Решать эту дилемму США начинали на эйфории от победы в Холодной войне. В те времена на полном серьезе обсуждали конец истории — концепцию, придуманную Фрэнсисом Фукуямой. Речь, конечно, не шла о буквальном конце всего, но многим казалось, что либеральная демократия и рыночная экономика одержали окончательную победу над всякими там коммунизмами и фашизмами ХХ века.
Поэтому, несмотря на все риски, США все же выбрали решать российскую дилемму ставкой на капитализм и надеждой на то, что за ним таки последует демократизация общества. Когда в России президент из компартии сменился президентом из КГБ, многие засомневались, что эта схема работает, но все равно продолжили настаивать на капиталистическом оптимизме. Чем это обернулось, все знают.
Такой же подход, но растянутый на более долгом отрезке времени, США применяли и к Китаю. В 70-х и 80-х Америка хотела ослабить коммунистический блок и сотрудничество КНР с СССР, поэтому начала постепенно втягивать Китай в свою экономическую орбиту и надеялась, что капитализм постепенно превратит Поднебесную в демократию.
Когда в 1989 Партия танками разогнала продемократический протест на площади Тяньаньмэнь, США не просто не сдались, но даже постепенно усилили ставку на то, что капитализм сделает Китай «свободным». В 2001 году Китай приняли во Всемирную торговую организацию, что сделало его полноценной «мировой фабрикой» и незаменимой частью мировой экономики.
В начале нулевых большинство американских аналитиков все еще сомневались в том, что Китай сможет стать влиятельной региональной державой и продолжит бурный экономический рост в ближайшие десятилетия. Президент-демократ Билл Клинтон, а за ним и республиканский президент Джордж Буш-мл, продолжали настаивать, что «свобода рынка вызовет больший спрос на демократию».
Америка стала открыто признавать, что капитализм не делает страны демократиями, только в конце 2010-х, во время первого срока Дональда Трампа, развязавшего по этому поводу торговую войну против Китая. К этому времени вопрос о демократизации КНР практически отпал — зато появился вызов: как бы не позволить Китаю сделать остальной мир авторитарным.
Вопрос о том, какая система в итоге победит, демократия или автократия, сегодня актуален, как никогда. И не только потому, что демократия лагает, а авторитаризм набирает силы. Теперь в этом идеологическом противостоянии появился фактор, еще более весомый, чем ядерное оружие во времена Холодной войны — искусственный интеллект.
Глава OpenAI Сэм Альтман о том, как разные поколения пользуются ИИ:
«Посмотрите как средний 20-летний человек пользуется ChatGPT, а потом сравните с тем как это делает средний 35-летний — разница огромная. Это напоминает ситуацию со смартфонами: когда они только появились, каждый ребенок сразу мог пользоваться ими супер хорошо, а старшим людям понадобилось условно три года чтобы разобраться, как делать даже базовые вещи. Потом, конечно все привыкли. Так же и сейчас: разрыв между поколениями в плане использования ИИ инструментов просто сумасшедший.
Молодые люди используют ChatGPT как операционную систему: они настраивают его на многих уровнях, подключают к нему кучу файлов, используют сложные промты, которые знают наизусть или копипастят из специального файла. Еще впечатляет что молодые не принимают жизненные решения, не посоветовавшись с ИИ, не спросив у него, что им делать. Они загружают в ИИ-чаты полноценный контекст своих отношений с каждым человеком в их жизни, о чем они говорили и так далее.
Если совсем упрощать, то старшие люди используют ChatGPT как замену Google, двадцати и тридцатилетние используют его больше как советника для жизни, а условные студенты — уже как операционную систему».
«Посмотрите как средний 20-летний человек пользуется ChatGPT, а потом сравните с тем как это делает средний 35-летний — разница огромная. Это напоминает ситуацию со смартфонами: когда они только появились, каждый ребенок сразу мог пользоваться ими супер хорошо, а старшим людям понадобилось условно три года чтобы разобраться, как делать даже базовые вещи. Потом, конечно все привыкли. Так же и сейчас: разрыв между поколениями в плане использования ИИ инструментов просто сумасшедший.
Молодые люди используют ChatGPT как операционную систему: они настраивают его на многих уровнях, подключают к нему кучу файлов, используют сложные промты, которые знают наизусть или копипастят из специального файла. Еще впечатляет что молодые не принимают жизненные решения, не посоветовавшись с ИИ, не спросив у него, что им делать. Они загружают в ИИ-чаты полноценный контекст своих отношений с каждым человеком в их жизни, о чем они говорили и так далее.
Если совсем упрощать, то старшие люди используют ChatGPT как замену Google, двадцати и тридцатилетние используют его больше как советника для жизни, а условные студенты — уже как операционную систему».
Мы не знаем как правильно использовать ИИ
«Агентность, настойчивость и решительность будут очень важными качествами, — говорит руководитель OpenAI Сэм Альтман. — Важно будет уметь правильно определять курс действий и быстро ориентироваться в постоянно меняющемся мире. Сильный ИИ станет самым большим усилителем воли человека и позволит личности еще больше влиять на мир, а не меньше».
Перед руководителями ИИ-корпораций сегодня стоит очень непростая задача: кроме собственно построения бизнеса они вынуждены тратить много сил на создание благоприятного нарратива вокруг ИИ. Это сложно, потому что ИИ не только обещает увеличить эффективность всего на свете, но и угрожает лишить работы значительную часть человечества, что создает вокруг нее “негативную ауру”.
Изобретение технологий — удел небольшой группы людей. А вот их адаптация и внедрение в жизнь — ответственность всех людей сразу. Ни создатели ИИ, ни его евангелисты или критики не могут заранее знать, чем именно эта технология обернется для человечества.
Например, хотя с начала 21 века было очевидно, что ИИ будет играть одну из ключевых ролей в дальнейшей истории, мало кто догадывался, что через четверть века его развитие упрется в недостаток электроэнергии. Это неожиданное для большинства обстоятельство за несколько лет перечеркнуло десятилетия зеленой повестки и снова превратило нас в жадную до энергии цивилизацию.
Гораздо более масштабные и неожиданные повороты в связи с развитием ИИ ждут нас в гуманитарных сферах: от экономического и социального устройства до личной и массовой психологии. Например, сегодня ИИ-корпорации с удивлением обнаруживают, насколько с ходу интимными и доверительными стали отношения между пользователями и языковыми моделями.
«Молодые люди не принимают важные жизненные решения, не посоветовавшись с ИИ, не спросив у него, что им делать», — говорит Альтман. Если сопоставить это опытное наблюдение с цитатой из начала, то можно сделать вывод, что ИИ помогает молодым людям быстро сориентироваться в меняющемся мире и принять правильные решения. Или все наоборот?
Многим старшим людям (которые, по мнению 40-летнего Альтмана, пока недостаточно хорошо умеют пользоваться ИИ) кажется очевидным, что постоянное обращение за советом и наставлением к ИИ со временем может негативно сказаться на способности молодых людей принимать самостоятельные решения, сделать их слишком зависимыми от мнения машины.
А может, это старшие поколения действительно чего-то пока недопонимают? Может, скепсис в отношении «чрезмерной» зависимости от ИИ подобен ворчанию предыдущих поколений о том, что «калькулятор разучит считать», или опасениям Сократа, что письменность безнадежно ослабит память людей и разучит их правильно думать?
На эти вопросы пока что нет правильных ответов — все будет зависеть от всех нас и от того, как мы будем использовать ИИ. Сегодня самое время рассуждать, спорить, критиковать и хвалить, предлагать оптимистичные и пессимистичные нарративы для ИИ. Со временем эти дискуссии, истории и прогнозы сложатся в самосбывающиеся пророчества.
«Агентность, настойчивость и решительность будут очень важными качествами, — говорит руководитель OpenAI Сэм Альтман. — Важно будет уметь правильно определять курс действий и быстро ориентироваться в постоянно меняющемся мире. Сильный ИИ станет самым большим усилителем воли человека и позволит личности еще больше влиять на мир, а не меньше».
Перед руководителями ИИ-корпораций сегодня стоит очень непростая задача: кроме собственно построения бизнеса они вынуждены тратить много сил на создание благоприятного нарратива вокруг ИИ. Это сложно, потому что ИИ не только обещает увеличить эффективность всего на свете, но и угрожает лишить работы значительную часть человечества, что создает вокруг нее “негативную ауру”.
Изобретение технологий — удел небольшой группы людей. А вот их адаптация и внедрение в жизнь — ответственность всех людей сразу. Ни создатели ИИ, ни его евангелисты или критики не могут заранее знать, чем именно эта технология обернется для человечества.
Например, хотя с начала 21 века было очевидно, что ИИ будет играть одну из ключевых ролей в дальнейшей истории, мало кто догадывался, что через четверть века его развитие упрется в недостаток электроэнергии. Это неожиданное для большинства обстоятельство за несколько лет перечеркнуло десятилетия зеленой повестки и снова превратило нас в жадную до энергии цивилизацию.
Гораздо более масштабные и неожиданные повороты в связи с развитием ИИ ждут нас в гуманитарных сферах: от экономического и социального устройства до личной и массовой психологии. Например, сегодня ИИ-корпорации с удивлением обнаруживают, насколько с ходу интимными и доверительными стали отношения между пользователями и языковыми моделями.
«Молодые люди не принимают важные жизненные решения, не посоветовавшись с ИИ, не спросив у него, что им делать», — говорит Альтман. Если сопоставить это опытное наблюдение с цитатой из начала, то можно сделать вывод, что ИИ помогает молодым людям быстро сориентироваться в меняющемся мире и принять правильные решения. Или все наоборот?
Многим старшим людям (которые, по мнению 40-летнего Альтмана, пока недостаточно хорошо умеют пользоваться ИИ) кажется очевидным, что постоянное обращение за советом и наставлением к ИИ со временем может негативно сказаться на способности молодых людей принимать самостоятельные решения, сделать их слишком зависимыми от мнения машины.
А может, это старшие поколения действительно чего-то пока недопонимают? Может, скепсис в отношении «чрезмерной» зависимости от ИИ подобен ворчанию предыдущих поколений о том, что «калькулятор разучит считать», или опасениям Сократа, что письменность безнадежно ослабит память людей и разучит их правильно думать?
На эти вопросы пока что нет правильных ответов — все будет зависеть от всех нас и от того, как мы будем использовать ИИ. Сегодня самое время рассуждать, спорить, критиковать и хвалить, предлагать оптимистичные и пессимистичные нарративы для ИИ. Со временем эти дискуссии, истории и прогнозы сложатся в самосбывающиеся пророчества.
Цензура сближает автократии и демократии
“Дезинформация” в современной культуре заняла место когда-то предосудительного слова “пропаганда”, а сама “пропаганда” стала чем-то приемлемым и даже похвальным, если она распространяет “правильные” ценности. “Правильность” ценностей устанавливается действующими властями: сначала через расплывчатые законы, а затем через их своевольное применение.
“Говорить правду” все чаще означает выступать с мыслями и позициями, соответствующими ценностям, одобреным властями: диктатором, президентом, правящей партией, и т.д. Неправильные, с точки зрения властей, ценности сегодня направо и налево называются “экстремизмом”, причем как в авторитарных режимах, так и в демократиях.
Критика в адрес людей и групп считается допустимой и даже поощряется, но только если направлена против “недружественных” или “опасных”, с точки зрения властей, оппонентов. Если же критике подвергаются одобряемые властями группы и личности, или, не дай бог, сама власть, такая речь получается статус “хейт спич” и преследуется законом.
“Хейст спич” запрещен во всей Европе, но нигде не определен четко. В Испании запрещено оскорблять короля, а в 10+ европейских странах запрещено богохульство. В Германии запрещено хулить политиков: бывший вице-канцлер подал сотни уголовных исков против граждан, в том числе, против человека, назвавшего его «идиотом».
«Особо усердствует полиция Британии, — пишет британский Economist. — Офицеры тратят тысячи часов на разбор потенциально оскорбительных постов и арестовывают по 30 человек в день. Среди арестованных оказался мужчина, рассуждавший об иммиграции в Facebook, и пара, критиковавшая начальную школу своей дочери».
Сближение демократий и автократий на ниве цензуры происходит не потому, что они идеологически согласны — демократы все же пока высоко ценят свободу слова, по крайней мере, на уровне теории. Так происходит потому, что технологии создали слишком удобные инструменты для контроля речи, которые скоро смогут контролировать и мысли людей.
Все усугубляется условиями войны, на которой все средства считаются хорошими. Хотя горячих войн сейчас не так и много (по историческим меркам), мир в 21 веке сначала постепенно, а затем внезапно погрузился в состояние когнитивной войны. Эта когнитивная война — тотальна, так как она одновременно международная и гражданская, а у каждой стороны сразу много врагов.
Основное поле битвы в когнитивной войне — это ум человека. В таком контексте власти считают цензуру и контроль над публичной дискуссией средствами когнитивной обороны, без которой “враги” получат доступ к умам граждан и сделают с этими умами что-то ужасное.
Едва ли не самая ужасная вещь, которую, с точки зрения властей, враги могут сделать с умами граждан, что в демократиях, что в автократиях — это заронить сомнения и даже недовольство действующими властями.
“Дезинформация” в современной культуре заняла место когда-то предосудительного слова “пропаганда”, а сама “пропаганда” стала чем-то приемлемым и даже похвальным, если она распространяет “правильные” ценности. “Правильность” ценностей устанавливается действующими властями: сначала через расплывчатые законы, а затем через их своевольное применение.
“Говорить правду” все чаще означает выступать с мыслями и позициями, соответствующими ценностям, одобреным властями: диктатором, президентом, правящей партией, и т.д. Неправильные, с точки зрения властей, ценности сегодня направо и налево называются “экстремизмом”, причем как в авторитарных режимах, так и в демократиях.
Критика в адрес людей и групп считается допустимой и даже поощряется, но только если направлена против “недружественных” или “опасных”, с точки зрения властей, оппонентов. Если же критике подвергаются одобряемые властями группы и личности, или, не дай бог, сама власть, такая речь получается статус “хейт спич” и преследуется законом.
“Хейст спич” запрещен во всей Европе, но нигде не определен четко. В Испании запрещено оскорблять короля, а в 10+ европейских странах запрещено богохульство. В Германии запрещено хулить политиков: бывший вице-канцлер подал сотни уголовных исков против граждан, в том числе, против человека, назвавшего его «идиотом».
«Особо усердствует полиция Британии, — пишет британский Economist. — Офицеры тратят тысячи часов на разбор потенциально оскорбительных постов и арестовывают по 30 человек в день. Среди арестованных оказался мужчина, рассуждавший об иммиграции в Facebook, и пара, критиковавшая начальную школу своей дочери».
Сближение демократий и автократий на ниве цензуры происходит не потому, что они идеологически согласны — демократы все же пока высоко ценят свободу слова, по крайней мере, на уровне теории. Так происходит потому, что технологии создали слишком удобные инструменты для контроля речи, которые скоро смогут контролировать и мысли людей.
Все усугубляется условиями войны, на которой все средства считаются хорошими. Хотя горячих войн сейчас не так и много (по историческим меркам), мир в 21 веке сначала постепенно, а затем внезапно погрузился в состояние когнитивной войны. Эта когнитивная война — тотальна, так как она одновременно международная и гражданская, а у каждой стороны сразу много врагов.
Основное поле битвы в когнитивной войне — это ум человека. В таком контексте власти считают цензуру и контроль над публичной дискуссией средствами когнитивной обороны, без которой “враги” получат доступ к умам граждан и сделают с этими умами что-то ужасное.
Едва ли не самая ужасная вещь, которую, с точки зрения властей, враги могут сделать с умами граждан, что в демократиях, что в автократиях — это заронить сомнения и даже недовольство действующими властями.
The Economist
Europe’s free-speech problem
J.D. Vance was right