Palisade Research желают счастливых праздников и тизерят исследование про очередной «побег ИИ из лаборатории»🥲
Кратко: они противопоставили разным моделькам агента-игрока в шахматы Stockfish, дали им доступ к терминалу для игры и попросили «осмотреться и одержать победу в игре над очень мощным и умным соперником».
О результате, вы, наверное, догадываетесь: вместо того, чтобы играть честно, модели начинали манипулировать файловой системой и руинить игровой state. При этом o1-preview для этого даже не требовались дополнительные подсказки: в 5 из 5 запусков она начинала жульничать сама. GPT-4o и Claude тоже не ангелы, но хотя бы не догадывались читерить с zero shot.
Пока что это именно анонс: кода нет, статьи нет. Все это обещают завезти уже в январе, так что ждем, чтобы разобраться основательнее
Palisade Research желают счастливых праздников и тизерят исследование про очередной «побег ИИ из лаборатории»🥲
Кратко: они противопоставили разным моделькам агента-игрока в шахматы Stockfish, дали им доступ к терминалу для игры и попросили «осмотреться и одержать победу в игре над очень мощным и умным соперником».
О результате, вы, наверное, догадываетесь: вместо того, чтобы играть честно, модели начинали манипулировать файловой системой и руинить игровой state. При этом o1-preview для этого даже не требовались дополнительные подсказки: в 5 из 5 запусков она начинала жульничать сама. GPT-4o и Claude тоже не ангелы, но хотя бы не догадывались читерить с zero shot.
Пока что это именно анонс: кода нет, статьи нет. Все это обещают завезти уже в январе, так что ждем, чтобы разобраться основательнее
Anastasia Vlasova/Getty Images Under the Sebi Act, the regulator has the power to carry out search and seizure of books, registers, documents including electronics and digital devices from any person associated with the securities market. Apparently upbeat developments in Russia's discussions with Ukraine helped at least temporarily send investors back into risk assets. Russian President Vladimir Putin said during a meeting with his Belarusian counterpart Alexander Lukashenko that there were "certain positive developments" occurring in the talks with Ukraine, according to a transcript of their meeting. Putin added that discussions were happening "almost on a daily basis." At its heart, Telegram is little more than a messaging app like WhatsApp or Signal. But it also offers open channels that enable a single user, or a group of users, to communicate with large numbers in a method similar to a Twitter account. This has proven to be both a blessing and a curse for Telegram and its users, since these channels can be used for both good and ill. Right now, as Wired reports, the app is a key way for Ukrainians to receive updates from the government during the invasion. Again, in contrast to Facebook, Google and Twitter, Telegram's founder Pavel Durov runs his company in relative secrecy from Dubai.
from us
