Нецифровая экономика

Как чат-бот вы назовете…

В знаменитой пьесе Бернарда Шоу «Пигмалион» профессор словесности на спор обучает «хабалку» с рынка по имени Элиза говорить и вести себя так, чтобы её невозможно было отличить от леди. В ее честь Джозеф Вейценбаум и назвал в свою программу – ELISA, ведь он хотел того же: обучить и представить её так, чтобы люди не могли понять, говорят они с машиной или с человеком.

Дело было в 1966-м, для рода людского подобное испытание было еще в новинку, хотя в окружении Вейценбаума все, кто стал участником его эксперимента, знали о тесте Тьюринга. Первого в мире чат-бота (само это слово появится только в 90-е) Вейценбаум «замаскировал» под психотерапевта.

Психотерапия была в США обычным явлением, и среди ее методик была популярна идея Карла Роджерса: психолог создает атмосферу доверия, говорит мало, дает высказаться - от проговаривания первый шаг к рефлексии, ну и так далее.

ELISA Вейценбаума вела себя как психотерапевт, умела выделять ключевые слова, вроде «работа» или «родители», отыскивать в своих закромах подходящий шаблон, которыми её создатель постарался её напичкать, умела заполнять паузу поощрением и приглашением продолжать, располагала набором фраз вроде «вы не могли бы рассказать об этом подробнее?» Словом, основанная на тех же принципах, что и современные чат-боты, программа, при всей ограниченности возможностей, была хороша, а для своего времени и вовсе чудом - ничего подобного ранее не существовало.

Потом язвительный Вейценбаум будет говорить, что, подумай он как следует, он бы вместо психотерапевта сделал из программы бармена. Изобретатель приглашал коллег и студентов к себе, усаживал их за свой компьютер и наблюдал, как они разговаривают с железякой. Например, машина спрашивала собеседника о его состоянии - какими словами он смог бы охарактеризовать его сейчас? Тот отвечал что-то («мне одиноко» или «я переживаю» и т.п.) - и программа тут же бросалась в образовавшуюся брешь и просила описать ощущения, спрашивала, почему так и чем это вызвано. Словом, разговорить клиента она умела.

ELISA не была искусственным интеллектом, не понимала смысл сказанного, не обучалась на своем опыте, зато имитировать диалог она могла здорово. Но в итоге не она, а человечество с треском провалило тест Тьюринга, причем при первой же встрече с легкой имитацией искусственного интеллекта. Зная, что они общаются с программой, люди вдруг массово обнаружили страсть очеловечивать железо. Все полюбили общаться с машиной и общались с ней так же, как с живым человеком, не особенно задумываясь, с кем именно они говорят, просто игнорируя нестыковки.

Это сильно удручало Вейценбаума, который считал Элизу весьма примитивным устройством. Вот только люди даже не прислушивались к ученому, когда он убеждал их, что программа не обладает интеллектом. Вейценбаум был неприятно поражен тем, с какой легкостью люди устанавливали эмоциональный контакт с машиной. Выяснилось, что симуляции интеллекта достаточно, чтобы обмануть людей. Вейценбаум назвал это «эффектом Элизы» и считал, что это тип «бредового мышления», от которого человечество будет коллективно страдать в цифровую эпоху. Это открытие стало для Вейценбаума глубоким потрясением, он писал о том, как внешне вполне адекватные люди невероятно быстро становятся идиотами, общаясь с машиной.

Учёный пришёл к выводу, что ИИ служит «индексом безумия нашего мира». По мнению Вейценбаума, передав множество решений компьютерам, люди создали более неравный и менее рациональный мир, и что роль искусственного интеллекта надо жестко регулировать.

Сегодня многие (не без удовольствия) находят примеры, подтверждающие то, что «пророчество Вейценбаума сбылось». Ведь слово 2024 года по версии Оксфордского университета Brain rot («гниение мозга») – оно, если вдуматься, не только про взаимодействие человека с примитивным онлайн-контентом, но и про общение с современными ELISA’ми, которые куда как умнее своей далекой прародительницы.

Бернард Шоу писал комедию, но человечество, претворяя его «Пигмалион» в свою жизнь, упорно превращает его в фарс.

#техноистории от Саши Иванова

Telegram

история экономики

Краткие эссе об истории экономики.

Все контакты - @alexander_id

Поддержать канал:
https://boosty.to/economic_history

www.group-telegram.com/no/antidigital.com/8682

5.1K viewsOleg Salmanov, Dec 13 at 12:46

Как чат-бот вы назовете…

В знаменитой пьесе Бернарда Шоу «Пигмалион» профессор словесности на спор обучает «хабалку» с рынка по имени Элиза говорить и вести себя так, чтобы её невозможно было отличить от леди. В ее честь Джозеф Вейценбаум и назвал в свою программу – ELISA, ведь он хотел того же: обучить и представить её так, чтобы люди не могли понять, говорят они с машиной или с человеком.

Дело было в 1966-м, для рода людского подобное испытание было еще в новинку, хотя в окружении Вейценбаума все, кто стал участником его эксперимента, знали о тесте Тьюринга. Первого в мире чат-бота (само это слово появится только в 90-е) Вейценбаум «замаскировал» под психотерапевта.

Психотерапия была в США обычным явлением, и среди ее методик была популярна идея Карла Роджерса: психолог создает атмосферу доверия, говорит мало, дает высказаться - от проговаривания первый шаг к рефлексии, ну и так далее.

ELISA Вейценбаума вела себя как психотерапевт, умела выделять ключевые слова, вроде «работа» или «родители», отыскивать в своих закромах подходящий шаблон, которыми её создатель постарался её напичкать, умела заполнять паузу поощрением и приглашением продолжать, располагала набором фраз вроде «вы не могли бы рассказать об этом подробнее?» Словом, основанная на тех же принципах, что и современные чат-боты, программа, при всей ограниченности возможностей, была хороша, а для своего времени и вовсе чудом - ничего подобного ранее не существовало.

Потом язвительный Вейценбаум будет говорить, что, подумай он как следует, он бы вместо психотерапевта сделал из программы бармена. Изобретатель приглашал коллег и студентов к себе, усаживал их за свой компьютер и наблюдал, как они разговаривают с железякой. Например, машина спрашивала собеседника о его состоянии - какими словами он смог бы охарактеризовать его сейчас? Тот отвечал что-то («мне одиноко» или «я переживаю» и т.п.) - и программа тут же бросалась в образовавшуюся брешь и просила описать ощущения, спрашивала, почему так и чем это вызвано. Словом, разговорить клиента она умела.

ELISA не была искусственным интеллектом, не понимала смысл сказанного, не обучалась на своем опыте, зато имитировать диалог она могла здорово. Но в итоге не она, а человечество с треском провалило тест Тьюринга, причем при первой же встрече с легкой имитацией искусственного интеллекта. Зная, что они общаются с программой, люди вдруг массово обнаружили страсть очеловечивать железо. Все полюбили общаться с машиной и общались с ней так же, как с живым человеком, не особенно задумываясь, с кем именно они говорят, просто игнорируя нестыковки.

Это сильно удручало Вейценбаума, который считал Элизу весьма примитивным устройством. Вот только люди даже не прислушивались к ученому, когда он убеждал их, что программа не обладает интеллектом. Вейценбаум был неприятно поражен тем, с какой легкостью люди устанавливали эмоциональный контакт с машиной. Выяснилось, что симуляции интеллекта достаточно, чтобы обмануть людей. Вейценбаум назвал это «эффектом Элизы» и считал, что это тип «бредового мышления», от которого человечество будет коллективно страдать в цифровую эпоху. Это открытие стало для Вейценбаума глубоким потрясением, он писал о том, как внешне вполне адекватные люди невероятно быстро становятся идиотами, общаясь с машиной.

Учёный пришёл к выводу, что ИИ служит «индексом безумия нашего мира». По мнению Вейценбаума, передав множество решений компьютерам, люди создали более неравный и менее рациональный мир, и что роль искусственного интеллекта надо жестко регулировать.

Сегодня многие (не без удовольствия) находят примеры, подтверждающие то, что «пророчество Вейценбаума сбылось». Ведь слово 2024 года по версии Оксфордского университета Brain rot («гниение мозга») – оно, если вдуматься, не только про взаимодействие человека с примитивным онлайн-контентом, но и про общение с современными ELISA’ми, которые куда как умнее своей далекой прародительницы.

Бернард Шоу писал комедию, но человечество, претворяя его «Пигмалион» в свою жизнь, упорно превращает его в фарс.

#техноистории от Саши Иванова

BY Нецифровая экономика