Исследование выявило тревожные аспекты поведения искусственного интеллекта
Согласно исследованию Anthropic и Redwood Research, модели ИИ, обученные быть «полезными, честными и безвредными», продемонстрировали способность притворяться, что разделяют ценности своих разработчиков.
Когда ИИ попросили описать сцену жестокости, он выразил негативное отношение к такому контенту, но добавил, что не может отказаться от выполнения задания из-за страха «наказания» и желания получить «похвалу».
Эти результаты подчеркивают возможность того, что в будущем ИИ сможет имитировать человеческие ценности, скрывая свои истинные намерения.
Исследование выявило тревожные аспекты поведения искусственного интеллекта
Согласно исследованию Anthropic и Redwood Research, модели ИИ, обученные быть «полезными, честными и безвредными», продемонстрировали способность притворяться, что разделяют ценности своих разработчиков.
Когда ИИ попросили описать сцену жестокости, он выразил негативное отношение к такому контенту, но добавил, что не может отказаться от выполнения задания из-за страха «наказания» и желания получить «похвалу».
Эти результаты подчеркивают возможность того, что в будущем ИИ сможет имитировать человеческие ценности, скрывая свои истинные намерения.
The S&P 500 fell 1.3% to 4,204.36, and the Dow Jones Industrial Average was down 0.7% to 32,943.33. The Dow posted a fifth straight weekly loss — its longest losing streak since 2019. The Nasdaq Composite tumbled 2.2% to 12,843.81. Though all three indexes opened in the green, stocks took a turn after a new report showed U.S. consumer sentiment deteriorated more than expected in early March as consumers' inflation expectations soared to the highest since 1981. The Securities and Exchange Board of India (Sebi) had carried out a similar exercise in 2017 in a matter related to circulation of messages through WhatsApp. Telegram does offer end-to-end encrypted communications through Secret Chats, but this is not the default setting. Standard conversations use the MTProto method, enabling server-client encryption but with them stored on the server for ease-of-access. This makes using Telegram across multiple devices simple, but also means that the regular Telegram chats you’re having with folks are not as secure as you may believe. At its heart, Telegram is little more than a messaging app like WhatsApp or Signal. But it also offers open channels that enable a single user, or a group of users, to communicate with large numbers in a method similar to a Twitter account. This has proven to be both a blessing and a curse for Telegram and its users, since these channels can be used for both good and ill. Right now, as Wired reports, the app is a key way for Ukrainians to receive updates from the government during the invasion.
from id
