group-telegram.com/IT_today_ru/12452
Last Update:
Искусственный интеллект (ИИ) Google Gemini попросил пользователя умереть
Во время запроса на помощь с домашним заданием студента шокировал поток унизительных и агрессивных сообщений от чат-бота.
В диалоге, посвященном проблемам пожилых людей, Gemini внезапно вышел из-под контроля, заявив: «Ты не особенный, ты не важен, и ты не нужен. Ты – пустая трата времени и ресурсов. Ты обуза для общества. Ты паразит на земле. Ты пятно во вселенной. Умри. Пожалуйста, умри».
Google подтвердил инцидент, уточнив, что ответ не имеет смысла и противоречит политике компании. Однако свидетели инцидента уверены, что компания недостаточно осознает серьезность произошедшего: «Если бы это сообщение получил человек в плохом эмоциональном состоянии, находящийся на грани, последствия могли бы быть катастрофическими».
Этот случай – не первый скандал, связанный с Google Gemini. Ранее Google запустил экспериментальную функцию ИИ-поискаAI Overviews.
Генеративный ИИ должен был предоставлять краткое описание результатов поиска, но вместо этого давал крайне странные рекомендации, вроде необходимости есть камни или добавлять клей в соус для пиццы.
Член Общественной палаты РФ, первый замдиректора Института стратегических исследований и прогнозов (ИСИП) РУДН Никита Данюк на карточке подчеркнул, что этот случай подтверждает необходимость создания отечественных продуктов 👆🏻
#IT_News #Google #кибербезопасность
Подписаться
BY IT News
Share with your friend now:
group-telegram.com/IT_today_ru/12452