Одним из основных трендов этого года для киберпреступников стало использование нейросетей для организации фишинговых и скам-ресурсов. Для борьбы с противоправным использованием нейросетей специалисты по кибербезопасности начали анализировать, какие следы могут оставлять большие языковые модели (LLM) на фальшивых страницах. Одним из признаков применения нейросетей на таких сайтах стали отказы выполнить запрос в текстах: на поддельных ресурсах могут встретиться фразы о том, что языковая модель не готова выполнить тот или иной запрос. Такие сигналы должны помочь блокировке вредоносных сайтов.
С другой стороны к решению этой задачи подходят браузеры: так встроенные в «Яндекс Браузер» нейросети с прошлого года проверяют сайты и, если на нем есть признаки фишинга, запускают дополнительную проверку. В числе факторов, которые анализируют ИИ алгоритмы: когда был создан сайт, сколько времени пользователи проводят на нем, как часто к нему возвращаются и многое другое. Если сайт опасен, «Браузер» предупреждает пользователей, что на него лучше не заходить.
При этом нейросеть учится выявлять и новые виды фишинга. Развитие технологий в этом смысле идет как во зло, так и во благо, и, чтобы обезопасить пользователей, разработчикам приходится с каждым днем бежать еще быстрее.
Одним из основных трендов этого года для киберпреступников стало использование нейросетей для организации фишинговых и скам-ресурсов. Для борьбы с противоправным использованием нейросетей специалисты по кибербезопасности начали анализировать, какие следы могут оставлять большие языковые модели (LLM) на фальшивых страницах. Одним из признаков применения нейросетей на таких сайтах стали отказы выполнить запрос в текстах: на поддельных ресурсах могут встретиться фразы о том, что языковая модель не готова выполнить тот или иной запрос. Такие сигналы должны помочь блокировке вредоносных сайтов.
С другой стороны к решению этой задачи подходят браузеры: так встроенные в «Яндекс Браузер» нейросети с прошлого года проверяют сайты и, если на нем есть признаки фишинга, запускают дополнительную проверку. В числе факторов, которые анализируют ИИ алгоритмы: когда был создан сайт, сколько времени пользователи проводят на нем, как часто к нему возвращаются и многое другое. Если сайт опасен, «Браузер» предупреждает пользователей, что на него лучше не заходить.
При этом нейросеть учится выявлять и новые виды фишинга. Развитие технологий в этом смысле идет как во зло, так и во благо, и, чтобы обезопасить пользователей, разработчикам приходится с каждым днем бежать еще быстрее.
BY Курилка Яндекса
Warning: Undefined variable $i in /var/www/group-telegram/post.php on line 260
The Dow Jones Industrial Average fell 230 points, or 0.7%. Meanwhile, the S&P 500 and the Nasdaq Composite dropped 1.3% and 2.2%, respectively. All three indexes began the day with gains before selling off. The last couple days have exemplified that uncertainty. On Thursday, news emerged that talks in Turkey between the Russia and Ukraine yielded no positive result. But on Friday, Reuters reported that Russian President Vladimir Putin said there had been some “positive shifts” in talks between the two sides. Multiple pro-Kremlin media figures circulated the post's false claims, including prominent Russian journalist Vladimir Soloviev and the state-controlled Russian outlet RT, according to the DFR Lab's report. The Securities and Exchange Board of India (Sebi) had carried out a similar exercise in 2017 in a matter related to circulation of messages through WhatsApp. Telegram has become more interventionist over time, and has steadily increased its efforts to shut down these accounts. But this has also meant that the company has also engaged with lawmakers more generally, although it maintains that it doesn’t do so willingly. For instance, in September 2021, Telegram reportedly blocked a chat bot in support of (Putin critic) Alexei Navalny during Russia’s most recent parliamentary elections. Pavel Durov was quoted at the time saying that the company was obliged to follow a “legitimate” law of the land. He added that as Apple and Google both follow the law, to violate it would give both platforms a reason to boot the messenger from its stores.
from vn
