ЧАДАЕВ

Forwarded from Канал им. Мандельштама

Первое - технология забалтывания, ее превратил в свой маркетинговый инструмент Тинькофф - мошеннические звонки выявляются автоматически еще на уровне мобильного оператора, и вместо того чтобы просто их блокировать - перенаправляются людям, которые заранее знают что говорят с мошенниками и часами развлекаются, забалтывая их. Логика - пока я забалтываю этого конкретного «звонаря» - он не разведет очередную жертву. Хорошо, но мошенники давно уже звонят в мессендерах, где пока никто никакие звонки не фильтрует.

В развитие этой идеи в Англии выпустили AI-«тупящую бабушку» - бот имитирует очень наивную и как будто бы легко обманываемую бабулю, которая все время люто тупит, переспрашивает, ошибается - и держит оператора колл-центра часами на линии.
Крутая штука, но подозреваю что тут мошенники достаточно быстро поймут как ее сломать.

Второе - анализ входящих звонков на типовые скрипты и артефакты звуковой генерации (если мошенник пытается выдать себя за знакомого жертвы с помощью «дипфейк» искажения голоса). Такой апгрейд СОРМов, которые уже стоят у всех операторов и фильтруют трафик. Нейронка слушает все голосовые вызовы на всех телефонах (включая мессенджеры), и если слышит подозрительный контент - обрывает звонок и сообщает абоненту что он говорил с мошенником. Это достаточно мощная защита, но есть нюанс - никакой больше тайны личных коммуникаций и приватности нет: нейронка должна прослушивать и анализировать все звонки всех людей в стране, просто «deal with it». Хватит ли на такое вычислительных мощностей? Только при одном условие - если такой государственной нейро-полицейский будет ультимативно предустановлен на каждый абонентский смартфон.

Удар по базовому комфорту населения от такого «решения» проблемы биодронов - даже сильнее чем блокировка GPS в городе для защиты от дронов обычных. Кто жил в мегаполисе, в котором перестали работать все Яндекс-карты и навигаторы в машинах (привет, Хайфа) - поймут. Забрать у людей базовую приватность личных коммуникаций чтобы спасти их от мошеннических «звонарей», с неплохим шансом превращающих их за пару часов в террористов - такая адская химиотерапия для социального тела.

И вот тут лежит второй уровень опасности вепонизации: превращение в оружие элементов обыденной жизни создает угрозы, которые общества и государства раньше никогда не видели и вызывает реакцию защиты, которой они наносят себе еще больший урон, чем сама первая атака.

После ковида стало очевидно, что информационное общество - это общество истеричных и инфантильных паникеров: любая опасность заставляет их требовать от государства самых радикальных мер для своей защиты, не считаясь даже со средне-срочными последствиями таких истеричных поступков. В результате политики закрывают целые города на безумные карантины, которые прямо или косвенно убивают и сводят с ума гораздо больше людей, чем пострадали бы от самой болезни.

Так же и вепонизация обыденности может привести к диспропорциональным мерам защиты: почувствов беспомощность перед лицом новой угрозы, люди согласятся или даже потребует от государства возвращения чувства безопасности - любой ценой.

История с дронами показала, что пока они не стали массовым явлением - никто даже не начал задумываться о защите. Да и сейчас методы обороны только разрабатываются. Забьем ли мы болт на биодронов так же, пока количество гражданских терактов с их использованием не вырастет до сотен и тысяч в день? Надеюсь что нет.

В заключение - великое прозрение о вепонизации от Корнея Чуковского:

Я – Великий Умывальник,
Знаменитый Мойдодыр,
Умывальников Начальник
И мочалок Командир!
Если топну я ногою,
Позову моих солдат,
В эту комнату толпою
Умывальники влетят,
И залают, и завоют,
И ногами застучат,
И тебе головомойку,
Неумытому, дадут –
Прямо в Мойку,
Прямо в Мойку
С головою окунут!»

www.group-telegram.com/sa/chadayevru.com/3466

20.7K viewsDec 24 at 07:29

Первое - технология забалтывания, ее превратил в свой маркетинговый инструмент Тинькофф - мошеннические звонки выявляются автоматически еще на уровне мобильного оператора, и вместо того чтобы просто их блокировать - перенаправляются людям, которые заранее знают что говорят с мошенниками и часами развлекаются, забалтывая их. Логика - пока я забалтываю этого конкретного «звонаря» - он не разведет очередную жертву. Хорошо, но мошенники давно уже звонят в мессендерах, где пока никто никакие звонки не фильтрует.

В развитие этой идеи в Англии выпустили AI-«тупящую бабушку» - бот имитирует очень наивную и как будто бы легко обманываемую бабулю, которая все время люто тупит, переспрашивает, ошибается - и держит оператора колл-центра часами на линии.
Крутая штука, но подозреваю что тут мошенники достаточно быстро поймут как ее сломать.

Второе - анализ входящих звонков на типовые скрипты и артефакты звуковой генерации (если мошенник пытается выдать себя за знакомого жертвы с помощью «дипфейк» искажения голоса). Такой апгрейд СОРМов, которые уже стоят у всех операторов и фильтруют трафик. Нейронка слушает все голосовые вызовы на всех телефонах (включая мессенджеры), и если слышит подозрительный контент - обрывает звонок и сообщает абоненту что он говорил с мошенником. Это достаточно мощная защита, но есть нюанс - никакой больше тайны личных коммуникаций и приватности нет: нейронка должна прослушивать и анализировать все звонки всех людей в стране, просто «deal with it». Хватит ли на такое вычислительных мощностей? Только при одном условие - если такой государственной нейро-полицейский будет ультимативно предустановлен на каждый абонентский смартфон.

Удар по базовому комфорту населения от такого «решения» проблемы биодронов - даже сильнее чем блокировка GPS в городе для защиты от дронов обычных. Кто жил в мегаполисе, в котором перестали работать все Яндекс-карты и навигаторы в машинах (привет, Хайфа) - поймут. Забрать у людей базовую приватность личных коммуникаций чтобы спасти их от мошеннических «звонарей», с неплохим шансом превращающих их за пару часов в террористов - такая адская химиотерапия для социального тела.

И вот тут лежит второй уровень опасности вепонизации: превращение в оружие элементов обыденной жизни создает угрозы, которые общества и государства раньше никогда не видели и вызывает реакцию защиты, которой они наносят себе еще больший урон, чем сама первая атака.

После ковида стало очевидно, что информационное общество - это общество истеричных и инфантильных паникеров: любая опасность заставляет их требовать от государства самых радикальных мер для своей защиты, не считаясь даже со средне-срочными последствиями таких истеричных поступков. В результате политики закрывают целые города на безумные карантины, которые прямо или косвенно убивают и сводят с ума гораздо больше людей, чем пострадали бы от самой болезни.

Так же и вепонизация обыденности может привести к диспропорциональным мерам защиты: почувствов беспомощность перед лицом новой угрозы, люди согласятся или даже потребует от государства возвращения чувства безопасности - любой ценой.

История с дронами показала, что пока они не стали массовым явлением - никто даже не начал задумываться о защите. Да и сейчас методы обороны только разрабатываются. Забьем ли мы болт на биодронов так же, пока количество гражданских терактов с их использованием не вырастет до сотен и тысяч в день? Надеюсь что нет.

В заключение - великое прозрение о вепонизации от Корнея Чуковского:

Я – Великий Умывальник,
Знаменитый Мойдодыр,
Умывальников Начальник
И мочалок Командир!
Если топну я ногою,
Позову моих солдат,
В эту комнату толпою
Умывальники влетят,
И залают, и завоют,
И ногами застучат,
И тебе головомойку,
Неумытому, дадут –
Прямо в Мойку,
Прямо в Мойку
С головою окунут!»

BY ЧАДАЕВ