Content Review

Forwarded from CRAI где живёт AI

ИИ вдохнул жизнь в спуфинг

Спуфинг — старый как мир способ обмана, обретший новую жизнь благодаря ИИ. Если раньше мошенникам приходилось вручную рассылать электронные письма или выманивать телефонные номера, то теперь искусственный интеллект сделал их работу проще, быстрее и изощреннее.

Практика LLM Lettering помогает прекрасно писать фишинговые письма, которые сложно отличить от подлинных. А рост качества дипфейков, в том числе возможность изменения голоса в реальном времени — угроза даже для крупных компаний, где «украденная» личность директора становится поводом перевести деньги или принять нерациональное решение.

В итоге проблема перестала быть точечной. То, что когда-то ограничивалось единичными атаками, сегодня разрослось до масштабов небольшой войны. По данным Sumsub, за 2024 год использование дипфейков в мошеннических схемах выросло в четыре раза, составив 7% от всех атак. На первый взгляд цифра не выглядит угрожающей, но важно учитывать динамику. Технологии становятся доступнее, а стоимость создания дипфейков — ниже.

В России пока всё не так плохо, но проблема тоже вышла за рамки гипотетической угрозы. В исследовании MTS AI и Б1 выяснили, что 21% компаний на рынке уже сталкивались с атаками в комбинации спуфинг+дипфейк, хотя пока урон и не слишком существенный. При этом 92% российских компаний видят в спуфинге и дипфейках реальную опасность (что не удивительно на фоне громких новостей об украденных 25 миллионах долларов с помощью дипфейка у компании в Гонконге или 35 миллионах долларов у банка в ОАЭ). Последнее — типичный пример голосового спуфинга, подделки голоса руководства — таких атак боятся 79% респондентов.

Причём для того, чтобы заменить лицо в реальном времени и синхронизировать движения губ, сегодня даже не нужны какие-то проприетарные или закрытые решения — тот же DeepFaceLive легко доступен на Гитхабе и не требует мощного железа. Хотя, конечно, и результат не даёт идеальный — но более чем достаточный для участия злоумышленника в конференции или бизнес-созвоне с подключением якобы «через вебку» с плохим разрешением. На этом фоне интересно было почитать, что 33% компаний в России вообще не выделяют бюджет на борьбу с дипфейк-спуфингом и проверку видео/аудио во внутренней коммуникации.

На российском рынке в последнее время появляются и различные решения для борьбы с угрозами — они есть у МТС (Дипфейк-детектор от дочки MTS AI VisionLabs), Cбера, Wink, NtechLab и так далее. Но проблема в том, что 100% защиту гарантировать невозможно.

А вот стоит ли винить за это ИИ и делать его крайним? Вряд ли логично надеяться только на технологии защиты, не обращая внимание на механизм принятия решений, иерархию внутри бизнеса, процесс подтверждения транзакций и так далее — ведь именно они и стали итоговой причиной потерь компаний, о которых мы упомянули раннее. А дипфейк и спуфинг в данном случае — только инструменты, которые эксплуатируют существующие уязвимости.

www.group-telegram.com/us/contentreview.com/9929

3.9K viewsJan 14 at 14:44

ИИ вдохнул жизнь в спуфинг

Спуфинг — старый как мир способ обмана, обретший новую жизнь благодаря ИИ. Если раньше мошенникам приходилось вручную рассылать электронные письма или выманивать телефонные номера, то теперь искусственный интеллект сделал их работу проще, быстрее и изощреннее.

Практика LLM Lettering помогает прекрасно писать фишинговые письма, которые сложно отличить от подлинных. А рост качества дипфейков, в том числе возможность изменения голоса в реальном времени — угроза даже для крупных компаний, где «украденная» личность директора становится поводом перевести деньги или принять нерациональное решение.

В итоге проблема перестала быть точечной. То, что когда-то ограничивалось единичными атаками, сегодня разрослось до масштабов небольшой войны. По данным Sumsub, за 2024 год использование дипфейков в мошеннических схемах выросло в четыре раза, составив 7% от всех атак. На первый взгляд цифра не выглядит угрожающей, но важно учитывать динамику. Технологии становятся доступнее, а стоимость создания дипфейков — ниже.

В России пока всё не так плохо, но проблема тоже вышла за рамки гипотетической угрозы. В исследовании MTS AI и Б1 выяснили, что 21% компаний на рынке уже сталкивались с атаками в комбинации спуфинг+дипфейк, хотя пока урон и не слишком существенный. При этом 92% российских компаний видят в спуфинге и дипфейках реальную опасность (что не удивительно на фоне громких новостей об украденных 25 миллионах долларов с помощью дипфейка у компании в Гонконге или 35 миллионах долларов у банка в ОАЭ). Последнее — типичный пример голосового спуфинга, подделки голоса руководства — таких атак боятся 79% респондентов.

Причём для того, чтобы заменить лицо в реальном времени и синхронизировать движения губ, сегодня даже не нужны какие-то проприетарные или закрытые решения — тот же DeepFaceLive легко доступен на Гитхабе и не требует мощного железа. Хотя, конечно, и результат не даёт идеальный — но более чем достаточный для участия злоумышленника в конференции или бизнес-созвоне с подключением якобы «через вебку» с плохим разрешением. На этом фоне интересно было почитать, что 33% компаний в России вообще не выделяют бюджет на борьбу с дипфейк-спуфингом и проверку видео/аудио во внутренней коммуникации.

На российском рынке в последнее время появляются и различные решения для борьбы с угрозами — они есть у МТС (Дипфейк-детектор от дочки MTS AI VisionLabs), Cбера, Wink, NtechLab и так далее. Но проблема в том, что 100% защиту гарантировать невозможно.

А вот стоит ли винить за это ИИ и делать его крайним? Вряд ли логично надеяться только на технологии защиты, не обращая внимание на механизм принятия решений, иерархию внутри бизнеса, процесс подтверждения транзакций и так далее — ведь именно они и стали итоговой причиной потерь компаний, о которых мы упомянули раннее. А дипфейк и спуфинг в данном случае — только инструменты, которые эксплуатируют существующие уязвимости.

BY Content Review