В LLM можно внедрить спящего агента (https://fxtwitter.com/AnthropicAI/status/1745854907968880970). Триггером для него станет определенная фраза, после которой агент начнет менять поведение этой модели, на картинке показано как. На данный момент это один из самых интересных секьюрити-кейсов, связанных с LLM
Мне вспоминается концепция троянского обучения в педагогике - ОНО. Ваш виртуальный помощник на каком-то этапе начинающий советовать совершать критические ошибки
В LLM можно внедрить спящего агента (https://fxtwitter.com/AnthropicAI/status/1745854907968880970). Триггером для него станет определенная фраза, после которой агент начнет менять поведение этой модели, на картинке показано как. На данный момент это один из самых интересных секьюрити-кейсов, связанных с LLM
Мне вспоминается концепция троянского обучения в педагогике - ОНО. Ваш виртуальный помощник на каком-то этапе начинающий советовать совершать критические ошибки
The channel appears to be part of the broader information war that has developed following Russia's invasion of Ukraine. The Kremlin has paid Russian TikTok influencers to push propaganda, according to a Vice News investigation, while ProPublica found that fake Russian fact check videos had been viewed over a million times on Telegram. A Russian Telegram channel with over 700,000 followers is spreading disinformation about Russia's invasion of Ukraine under the guise of providing "objective information" and fact-checking fake news. Its influence extends beyond the platform, with major Russian publications, government officials, and journalists citing the page's posts. Now safely in France with his spouse and three of his children, Kliuchnikov scrolls through Telegram to learn about the devastation happening in his home country. In addition, Telegram now supports the use of third-party streaming tools like OBS Studio and XSplit to broadcast live video, allowing users to add overlays and multi-screen layouts for a more professional look. Perpetrators of these scams will create a public group on Telegram to promote these investment packages that are usually accompanied by fake testimonies and sometimes advertised as being Shariah-compliant. Interested investors will be asked to directly message the representatives to begin investing in the various investment packages offered.
from tw
