Чорт ногу сломит

​«ИИ в мэры» — слоган одного из кандидатов в мэры в городе Шайенн, столице американского штата Вайоминг с населением 64 тысячи человек. 42-летний библиотекарь Виктор Миллер обещал, что если его выберут, он будет делать только то, что ему скажет нейросеть под названием VIC («виртуальный интегрированный гражданин»). Вчера он проиграл выборы, но этот случай заслуживает внимания.

«В нашей системе ИИ не может стать мэром, следовательно, я буду его скромным мясным аватаром», — утверждал Миллер. Выступая на местном телевидении, он демонстрировал толстую пачку документов, которые чиновники должны прочитать для принятия постановления на заседании городского совета. Миллер хотел, чтобы вместо него эти неподъемные груды документов читал ИИ, а сам обещал в них даже не заглядывать. ИИ читает и решает, а Миллер — исполняет.

VIC — это не специальный государственный ИИ, а просто слегка модифицированный Миллером ChatGPT от OpenAI. Правила OpenAI запрещают использовать их чатбота на выборах, так что когда они узнали о кампании Миллера, то заблокировали его аккаунт. Но он просто завел новую учетную запись, опять загрузил в ИИ все документы по городским делам и принес VIC на встречу с избирателями: через блютус-колонку люди могли пообщаться с потенциальным ИИ-мэром.

Местные власти не хотели регистрировать Миллера в качестве кандидата в мэры — но не потому, что он обещал стать «мясным аватаром» для ИИ, а потому, что в документах вместо своего полного имени «Виктор Миллер», он использовал сокращение «Vic Миллер».

У чиновников из Вайоминга и сотрудников OpenAI Миллер вызывал раздражение, у журналистов — ажиотаж и насмешки, а у людей — умеренный интерес. Хотя у VIC не было шансов выиграть выборы, он сработал как любимая в Кремниевой долине концепция минимально жизнеспособного продукта (MVP) — продукта, обладающего минимальными, но достаточными для удовлетворения первых потребителей функциями. Благодаря VIC люди всерьез задумались о замене «мясных» чиновников «цифровыми».

Есть несколько вариантов взаимодействия человека с ИИ:
– ИИ выполняет указания человека — сегодня это самый популярный вид взаимодействия;
– ИИ работает с человеком на равных, дополняя своими возможностями способности человека — этот вариант называется ИИ-кентавр;
– ИИ приказывает, а человека исполняет – именно этот вариант предлагал Миллер.

Превращение человека в «мясного аватара» для ИИ подразумевает, что ИИ превзошел людей в понимании и способности принимать решения. Хотя пока ИИ далеко до превосходства над людьми, в некоторых сферах такая схема уже работает. Например, в 2023 году израильские военные использовали ИИ-систему «Лаванда» для определения целей на ликвидацию, а оператору оставалось только одобрить эту цель, на что у него уходило всего 20 секунд — основным преимуществом была скорость определения цели, которая у ИИ значительно превосходила человека.

В отличие от специализированной заточенности «Лаванды» на выполнение боевых задач, ИИ-мэр VIC был минимально приспособлен к управлению городом. Однако, если мы уже морально готовы позволять ИИ решать, кому жить, а кому умирать, было бы лукавством делать вид, что решения вроде того, что сделать с парком или как залатать дорогу — нечто настолько важное, что ИИ ни в коем случае нельзя доверять управление небольшим городом под надзором человека.

Мне кажется, что ИИ станет великим разоблачителем нашего времени. Тотальное разочарование в политиках и власти как таковой, которое все больше затапливает ума и сердца людей по всему миру, радикально усилиться, когда ИИ-системы сделают этих политиков еще более прозрачными и покажут, что большинство из них справляется со своей работой хуже, чем сырой галлюцинирующий ИИ.

www.group-telegram.com/id/nejdanov.com/434

1.4K viewsAug 22 at 06:07

​«ИИ в мэры» — слоган одного из кандидатов в мэры в городе Шайенн, столице американского штата Вайоминг с населением 64 тысячи человек. 42-летний библиотекарь Виктор Миллер обещал, что если его выберут, он будет делать только то, что ему скажет нейросеть под названием VIC («виртуальный интегрированный гражданин»). Вчера он проиграл выборы, но этот случай заслуживает внимания.

«В нашей системе ИИ не может стать мэром, следовательно, я буду его скромным мясным аватаром», — утверждал Миллер. Выступая на местном телевидении, он демонстрировал толстую пачку документов, которые чиновники должны прочитать для принятия постановления на заседании городского совета. Миллер хотел, чтобы вместо него эти неподъемные груды документов читал ИИ, а сам обещал в них даже не заглядывать. ИИ читает и решает, а Миллер — исполняет.

VIC — это не специальный государственный ИИ, а просто слегка модифицированный Миллером ChatGPT от OpenAI. Правила OpenAI запрещают использовать их чатбота на выборах, так что когда они узнали о кампании Миллера, то заблокировали его аккаунт. Но он просто завел новую учетную запись, опять загрузил в ИИ все документы по городским делам и принес VIC на встречу с избирателями: через блютус-колонку люди могли пообщаться с потенциальным ИИ-мэром.

Местные власти не хотели регистрировать Миллера в качестве кандидата в мэры — но не потому, что он обещал стать «мясным аватаром» для ИИ, а потому, что в документах вместо своего полного имени «Виктор Миллер», он использовал сокращение «Vic Миллер».

У чиновников из Вайоминга и сотрудников OpenAI Миллер вызывал раздражение, у журналистов — ажиотаж и насмешки, а у людей — умеренный интерес. Хотя у VIC не было шансов выиграть выборы, он сработал как любимая в Кремниевой долине концепция минимально жизнеспособного продукта (MVP) — продукта, обладающего минимальными, но достаточными для удовлетворения первых потребителей функциями. Благодаря VIC люди всерьез задумались о замене «мясных» чиновников «цифровыми».

Есть несколько вариантов взаимодействия человека с ИИ:
– ИИ выполняет указания человека — сегодня это самый популярный вид взаимодействия;
– ИИ работает с человеком на равных, дополняя своими возможностями способности человека — этот вариант называется ИИ-кентавр;
– ИИ приказывает, а человека исполняет – именно этот вариант предлагал Миллер.

Превращение человека в «мясного аватара» для ИИ подразумевает, что ИИ превзошел людей в понимании и способности принимать решения. Хотя пока ИИ далеко до превосходства над людьми, в некоторых сферах такая схема уже работает. Например, в 2023 году израильские военные использовали ИИ-систему «Лаванда» для определения целей на ликвидацию, а оператору оставалось только одобрить эту цель, на что у него уходило всего 20 секунд — основным преимуществом была скорость определения цели, которая у ИИ значительно превосходила человека.

В отличие от специализированной заточенности «Лаванды» на выполнение боевых задач, ИИ-мэр VIC был минимально приспособлен к управлению городом. Однако, если мы уже морально готовы позволять ИИ решать, кому жить, а кому умирать, было бы лукавством делать вид, что решения вроде того, что сделать с парком или как залатать дорогу — нечто настолько важное, что ИИ ни в коем случае нельзя доверять управление небольшим городом под надзором человека.

Мне кажется, что ИИ станет великим разоблачителем нашего времени. Тотальное разочарование в политиках и власти как таковой, которое все больше затапливает ума и сердца людей по всему миру, радикально усилиться, когда ИИ-системы сделают этих политиков еще более прозрачными и покажут, что большинство из них справляется со своей работой хуже, чем сырой галлюцинирующий ИИ.

BY Чорт ногу сломит