Одним из основных трендов этого года для киберпреступников стало использование нейросетей для организации фишинговых и скам-ресурсов. Для борьбы с противоправным использованием нейросетей специалисты по кибербезопасности начали анализировать, какие следы могут оставлять большие языковые модели (LLM) на фальшивых страницах. Одним из признаков применения нейросетей на таких сайтах стали отказы выполнить запрос в текстах: на поддельных ресурсах могут встретиться фразы о том, что языковая модель не готова выполнить тот или иной запрос. Такие сигналы должны помочь блокировке вредоносных сайтов.
С другой стороны к решению этой задачи подходят браузеры: так встроенные в «Яндекс Браузер» нейросети с прошлого года проверяют сайты и, если на нем есть признаки фишинга, запускают дополнительную проверку. В числе факторов, которые анализируют ИИ алгоритмы: когда был создан сайт, сколько времени пользователи проводят на нем, как часто к нему возвращаются и многое другое. Если сайт опасен, «Браузер» предупреждает пользователей, что на него лучше не заходить.
При этом нейросеть учится выявлять и новые виды фишинга. Развитие технологий в этом смысле идет как во зло, так и во благо, и, чтобы обезопасить пользователей, разработчикам приходится с каждым днем бежать еще быстрее.
Одним из основных трендов этого года для киберпреступников стало использование нейросетей для организации фишинговых и скам-ресурсов. Для борьбы с противоправным использованием нейросетей специалисты по кибербезопасности начали анализировать, какие следы могут оставлять большие языковые модели (LLM) на фальшивых страницах. Одним из признаков применения нейросетей на таких сайтах стали отказы выполнить запрос в текстах: на поддельных ресурсах могут встретиться фразы о том, что языковая модель не готова выполнить тот или иной запрос. Такие сигналы должны помочь блокировке вредоносных сайтов.
С другой стороны к решению этой задачи подходят браузеры: так встроенные в «Яндекс Браузер» нейросети с прошлого года проверяют сайты и, если на нем есть признаки фишинга, запускают дополнительную проверку. В числе факторов, которые анализируют ИИ алгоритмы: когда был создан сайт, сколько времени пользователи проводят на нем, как часто к нему возвращаются и многое другое. Если сайт опасен, «Браузер» предупреждает пользователей, что на него лучше не заходить.
При этом нейросеть учится выявлять и новые виды фишинга. Развитие технологий в этом смысле идет как во зло, так и во благо, и, чтобы обезопасить пользователей, разработчикам приходится с каждым днем бежать еще быстрее.
BY Курилка Яндекса
Warning: Undefined variable $i in /var/www/group-telegram/post.php on line 260
One thing that Telegram now offers to all users is the ability to “disappear” messages or set remote deletion deadlines. That enables users to have much more control over how long people can access what you’re sending them. Given that Russian law enforcement officials are reportedly (via Insider) stopping people in the street and demanding to read their text messages, this could be vital to protect individuals from reprisals. Telegram boasts 500 million users, who share information individually and in groups in relative security. But Telegram's use as a one-way broadcast channel — which followers can join but not reply to — means content from inauthentic accounts can easily reach large, captive and eager audiences. Individual messages can be fully encrypted. But the user has to turn on that function. It's not automatic, as it is on Signal and WhatsApp. At its heart, Telegram is little more than a messaging app like WhatsApp or Signal. But it also offers open channels that enable a single user, or a group of users, to communicate with large numbers in a method similar to a Twitter account. This has proven to be both a blessing and a curse for Telegram and its users, since these channels can be used for both good and ill. Right now, as Wired reports, the app is a key way for Ukrainians to receive updates from the government during the invasion. Given the pro-privacy stance of the platform, it’s taken as a given that it’ll be used for a number of reasons, not all of them good. And Telegram has been attached to a fair few scandals related to terrorism, sexual exploitation and crime. Back in 2015, Vox described Telegram as “ISIS’ app of choice,” saying that the platform’s real use is the ability to use channels to distribute material to large groups at once. Telegram has acted to remove public channels affiliated with terrorism, but Pavel Durov reiterated that he had no business snooping on private conversations.
from br
