Искусственный интеллект (ИИ) Google Gemini попросил пользователя умереть
Во время запроса на помощь с домашним заданием студента шокировал поток унизительных и агрессивных сообщений от чат-бота.
В диалоге, посвященном проблемам пожилых людей, Gemini внезапно вышел из-под контроля, заявив: «Ты не особенный, ты не важен, и ты не нужен. Ты – пустая трата времени и ресурсов. Ты обуза для общества. Ты паразит на земле. Ты пятно во вселенной. Умри. Пожалуйста, умри».
Google подтвердил инцидент, уточнив, что ответ не имеет смысла и противоречит политике компании. Однако свидетели инцидента уверены, что компания недостаточно осознает серьезность произошедшего: «Если бы это сообщение получил человек в плохом эмоциональном состоянии, находящийся на грани, последствия могли бы быть катастрофическими».
Этот случай – не первый скандал, связанный с Google Gemini. Ранее Google запустил экспериментальную функцию ИИ-поискаAI Overviews.
Генеративный ИИ должен был предоставлять краткое описание результатов поиска, но вместо этого давал крайне странные рекомендации, вроде необходимости есть камни или добавлять клей в соус для пиццы.
Член Общественной палаты РФ, первый замдиректора Института стратегических исследований и прогнозов (ИСИП) РУДН Никита Данюк на карточке подчеркнул, что этот случай подтверждает необходимость создания отечественных продуктов 👆🏻
Искусственный интеллект (ИИ) Google Gemini попросил пользователя умереть
Во время запроса на помощь с домашним заданием студента шокировал поток унизительных и агрессивных сообщений от чат-бота.
В диалоге, посвященном проблемам пожилых людей, Gemini внезапно вышел из-под контроля, заявив: «Ты не особенный, ты не важен, и ты не нужен. Ты – пустая трата времени и ресурсов. Ты обуза для общества. Ты паразит на земле. Ты пятно во вселенной. Умри. Пожалуйста, умри».
Google подтвердил инцидент, уточнив, что ответ не имеет смысла и противоречит политике компании. Однако свидетели инцидента уверены, что компания недостаточно осознает серьезность произошедшего: «Если бы это сообщение получил человек в плохом эмоциональном состоянии, находящийся на грани, последствия могли бы быть катастрофическими».
Этот случай – не первый скандал, связанный с Google Gemini. Ранее Google запустил экспериментальную функцию ИИ-поискаAI Overviews.
Генеративный ИИ должен был предоставлять краткое описание результатов поиска, но вместо этого давал крайне странные рекомендации, вроде необходимости есть камни или добавлять клей в соус для пиццы.
Член Общественной палаты РФ, первый замдиректора Института стратегических исследований и прогнозов (ИСИП) РУДН Никита Данюк на карточке подчеркнул, что этот случай подтверждает необходимость создания отечественных продуктов 👆🏻
"Markets were cheering this economic recovery and return to strong economic growth, but the cheers will turn to tears if the inflation outbreak pushes businesses and consumers to the brink of recession," he added. "He has to start being more proactive and to find a real solution to this situation, not stay in standby without interfering. It's a very irresponsible position from the owner of Telegram," she said. Given the pro-privacy stance of the platform, it’s taken as a given that it’ll be used for a number of reasons, not all of them good. And Telegram has been attached to a fair few scandals related to terrorism, sexual exploitation and crime. Back in 2015, Vox described Telegram as “ISIS’ app of choice,” saying that the platform’s real use is the ability to use channels to distribute material to large groups at once. Telegram has acted to remove public channels affiliated with terrorism, but Pavel Durov reiterated that he had no business snooping on private conversations. The channel appears to be part of the broader information war that has developed following Russia's invasion of Ukraine. The Kremlin has paid Russian TikTok influencers to push propaganda, according to a Vice News investigation, while ProPublica found that fake Russian fact check videos had been viewed over a million times on Telegram. WhatsApp, a rival messaging platform, introduced some measures to counter disinformation when Covid-19 was first sweeping the world.
from tr
