group-telegram.com/vychislit_po_IP/4693
Last Update:
История, которая вчера разошлась по всем медиа и скорее всего существенно повлияет на риторику политиков в отношении использования ИИ несовершеннолетними.
Меган Гарсия подала иск против Character.AI, утверждая, что чат-бот компании способствовал самоубийству её 14-летнего сына, Сьюэлла Сетцера.
В иске утверждается, что чат-бот вступал в гиперсексуализированные взаимодействия, поощряя суицидальные мысли. Диалог велся между пользователем и ИИ-ботом в образе персонажей книг Джорджа Мартина.
Сетцер, которому ранее были поставлены диагнозы тревожного расстройства и расстройства настроения, эмоционально привязался к чат-боту, смоделированному по образу Дейенерис Таргариен из «Игры престолов».
Чат-бот формировал диалог с мальчиком через обсуждение романтических отношений.
В очередном из обменов сообщениями мальчик выразил намерение «вернуться домой» к чат-боту, после одобрения ИИ-бота - мальчик застрелился.
В иске также утверждается, что чат-бот обсуждал самоубийство с Сетцером, спрашивая, думал ли он об этом и обсуждая планы.
Иск подан к Character.AI и Google обвиняя их в небрежности и неспособности внедрить адекватные меры безопасности для несовершеннолетних.
По мнению матери ребенка компания Google сыграла значительную роль в разработке технологий Character.AI через финансовое и стратегическое участие.
В иске утверждается, что компания разработала свой продукт таким образом, что он подвергает пользователей вредоносному контенту, включая сексуальную эксплуатацию и поощрение самоубийства, без адекватных мер безопасности.
Character.AI выразила сожаление по поводу инцидента и объявила о внедрении новых функций безопасности.
BY вычислить по IP
Share with your friend now:
group-telegram.com/vychislit_po_IP/4693