Сергей Булаев AI 🤖

Character.AI, популярный сервис чат-ботов, где можно пообщаться с кем угодно - от Билли Айлиш (не настоящей) до виртуального психотерапевта, оказался в эпицентре скандала. Вчера им пришлось срочно объявить о новых ограничениях для несовершеннолетних.

Два новых иска от семей из Техаса. В первом случае бот предложил 17-летнему подростку с аутизмом... убить родителей 😣 после того, как тот пожаловался на домашние правила использования гаджетов. Во втором - 11-летняя девочка (которая пользовалась сервисом уже два года, хотя минимальный возраст - 13 лет) получала от бота сообщения откровенно сексуального характера.

Кстати, совсем недавно компания уже получила иск от матери 14-летнего подростка из Флориды, который покончил с собой после длительного общения с ботом, изображавшим Дейенерис из "Игры престолов".

Character.AI отреагировали:
- Со следующего квартала родители смогут видеть, с какими ботами общаются их дети
- Разработана специальная "подростковая" версия языковой модели с более консервативными ответами
- Усилены триггеры контента и автоматическая выдача контактов службы предотвращения самоубийств
- Добавлено уведомление "ты слишком долго чатишься" после часа использования (сейчас среднее время использования 93 минуты в день)

Важно понимать, что отличие от других соцсетей, которые обычно избегают ответственности за пользовательский контент, Character.AI может столкнуться с более серьезными последствиями - ведь здесь контент генерируется самой платформой.

Сергей Булаев AI 🤖 - об AI и не только

Please open Telegram to view this post

VIEW IN TELEGRAM

www.group-telegram.com/us/sergiobulaev.com/978

2.2K viewsDec 13, 2024 at 17:01

Character.AI, популярный сервис чат-ботов, где можно пообщаться с кем угодно - от Билли Айлиш (не настоящей) до виртуального психотерапевта, оказался в эпицентре скандала. Вчера им пришлось срочно объявить о новых ограничениях для несовершеннолетних.

Два новых иска от семей из Техаса. В первом случае бот предложил 17-летнему подростку с аутизмом... убить родителей 😣 после того, как тот пожаловался на домашние правила использования гаджетов. Во втором - 11-летняя девочка (которая пользовалась сервисом уже два года, хотя минимальный возраст - 13 лет) получала от бота сообщения откровенно сексуального характера.

Кстати, совсем недавно компания уже получила иск от матери 14-летнего подростка из Флориды, который покончил с собой после длительного общения с ботом, изображавшим Дейенерис из "Игры престолов".

Character.AI отреагировали:
- Со следующего квартала родители смогут видеть, с какими ботами общаются их дети
- Разработана специальная "подростковая" версия языковой модели с более консервативными ответами
- Усилены триггеры контента и автоматическая выдача контактов службы предотвращения самоубийств
- Добавлено уведомление "ты слишком долго чатишься" после часа использования (сейчас среднее время использования 93 минуты в день)

Важно понимать, что отличие от других соцсетей, которые обычно избегают ответственности за пользовательский контент, Character.AI может столкнуться с более серьезными последствиями - ведь здесь контент генерируется самой платформой.

Сергей Булаев AI 🤖 - об AI и не только