Искусственный интеллект (ИИ) Google Gemini попросил пользователя умереть
Во время запроса на помощь с домашним заданием студента шокировал поток унизительных и агрессивных сообщений от чат-бота.
В диалоге, посвященном проблемам пожилых людей, Gemini внезапно вышел из-под контроля, заявив: «Ты не особенный, ты не важен, и ты не нужен. Ты – пустая трата времени и ресурсов. Ты обуза для общества. Ты паразит на земле. Ты пятно во вселенной. Умри. Пожалуйста, умри».
Google подтвердил инцидент, уточнив, что ответ не имеет смысла и противоречит политике компании. Однако свидетели инцидента уверены, что компания недостаточно осознает серьезность произошедшего: «Если бы это сообщение получил человек в плохом эмоциональном состоянии, находящийся на грани, последствия могли бы быть катастрофическими».
Этот случай – не первый скандал, связанный с Google Gemini. Ранее Google запустил экспериментальную функцию ИИ-поискаAI Overviews.
Генеративный ИИ должен был предоставлять краткое описание результатов поиска, но вместо этого давал крайне странные рекомендации, вроде необходимости есть камни или добавлять клей в соус для пиццы.
Член Общественной палаты РФ, первый замдиректора Института стратегических исследований и прогнозов (ИСИП) РУДН Никита Данюк на карточке подчеркнул, что этот случай подтверждает необходимость создания отечественных продуктов 👆🏻
Искусственный интеллект (ИИ) Google Gemini попросил пользователя умереть
Во время запроса на помощь с домашним заданием студента шокировал поток унизительных и агрессивных сообщений от чат-бота.
В диалоге, посвященном проблемам пожилых людей, Gemini внезапно вышел из-под контроля, заявив: «Ты не особенный, ты не важен, и ты не нужен. Ты – пустая трата времени и ресурсов. Ты обуза для общества. Ты паразит на земле. Ты пятно во вселенной. Умри. Пожалуйста, умри».
Google подтвердил инцидент, уточнив, что ответ не имеет смысла и противоречит политике компании. Однако свидетели инцидента уверены, что компания недостаточно осознает серьезность произошедшего: «Если бы это сообщение получил человек в плохом эмоциональном состоянии, находящийся на грани, последствия могли бы быть катастрофическими».
Этот случай – не первый скандал, связанный с Google Gemini. Ранее Google запустил экспериментальную функцию ИИ-поискаAI Overviews.
Генеративный ИИ должен был предоставлять краткое описание результатов поиска, но вместо этого давал крайне странные рекомендации, вроде необходимости есть камни или добавлять клей в соус для пиццы.
Член Общественной палаты РФ, первый замдиректора Института стратегических исследований и прогнозов (ИСИП) РУДН Никита Данюк на карточке подчеркнул, что этот случай подтверждает необходимость создания отечественных продуктов 👆🏻
The Security Service of Ukraine said in a tweet that it was able to effectively target Russian convoys near Kyiv because of messages sent to an official Telegram bot account called "STOP Russian War." At its heart, Telegram is little more than a messaging app like WhatsApp or Signal. But it also offers open channels that enable a single user, or a group of users, to communicate with large numbers in a method similar to a Twitter account. This has proven to be both a blessing and a curse for Telegram and its users, since these channels can be used for both good and ill. Right now, as Wired reports, the app is a key way for Ukrainians to receive updates from the government during the invasion. On February 27th, Durov posted that Channels were becoming a source of unverified information and that the company lacks the ability to check on their veracity. He urged users to be mistrustful of the things shared on Channels, and initially threatened to block the feature in the countries involved for the length of the war, saying that he didn’t want Telegram to be used to aggravate conflict or incite ethnic hatred. He did, however, walk back this plan when it became clear that they had also become a vital communications tool for Ukrainian officials and citizens to help coordinate their resistance and evacuations. Update March 8, 2022: EFF has clarified that Channels and Groups are not fully encrypted, end-to-end, updated our post to link to Telegram’s FAQ for Cloud and Secret chats, updated to clarify that auto-delete is available for group and channel admins, and added some additional links. The regulator said it has been undertaking several campaigns to educate the investors to be vigilant while taking investment decisions based on stock tips.
from no
