Уроки биометрии. Разбираем основные термины — FMR, FNMR, FRR и FAR.
1. FMR (False Match Rate) – вероятность ложного совпадения. FMR показывает, как часто система распознавания лиц ошибается и считает двух разных людей одним и тем же человеком.
На снимке: близняшки Мэри-Кейт Олсен (слева) и Эшли Олсен (справа). Система считает, что Мэри-Кейт и Эшли – один и тот же человек.
2. FNMR (False Non-Match Rate) – вероятность ложного несовпадения: Это показатель, насколько часто система не распознает одного и того же человека как одного и того же.
На снимке: Ларри Вачовски до смены пола (слева) и после (справа). Система распознавания лиц считает, что это два разных человека.
3. FRR (False Rejection Rate) – вероятность ложного недопуска. Например, пользователь не может разблокировать телефон при помощи Face ID или оплатить проезд в транспорте по биометрии в медицинской маске или солнцезащитных очках.
4. FAR (False Acceptance Rate) – вероятность несанкционированного допуска. Система принимает кого-то за пользователя и разрешает ему совершить действие. Например, брат пользователя смог разблокировать его телефон при помощи Face ID.
1. FMR (False Match Rate) – вероятность ложного совпадения. FMR показывает, как часто система распознавания лиц ошибается и считает двух разных людей одним и тем же человеком.
На снимке: близняшки Мэри-Кейт Олсен (слева) и Эшли Олсен (справа). Система считает, что Мэри-Кейт и Эшли – один и тот же человек.
2. FNMR (False Non-Match Rate) – вероятность ложного несовпадения: Это показатель, насколько часто система не распознает одного и того же человека как одного и того же.
На снимке: Ларри Вачовски до смены пола (слева) и после (справа). Система распознавания лиц считает, что это два разных человека.
3. FRR (False Rejection Rate) – вероятность ложного недопуска. Например, пользователь не может разблокировать телефон при помощи Face ID или оплатить проезд в транспорте по биометрии в медицинской маске или солнцезащитных очках.
4. FAR (False Acceptance Rate) – вероятность несанкционированного допуска. Система принимает кого-то за пользователя и разрешает ему совершить действие. Например, брат пользователя смог разблокировать его телефон при помощи Face ID.
У французского информационного агентства Agence France-Presse есть уникальный ресурс – Fact Check. Его команда занимается проверкой правдивости информации в СМИ и социальных сетях, а также ищет дипфейки.
Один из инструментов, который лежит в основе Fact Check – бесплатный плагин InVID для браузера Chrome.
Он умеет разбить видео на ключевые кадры для обратного поиска по изображению, извлечь метаданные, найти происхождение контента, обнаружить манипуляции. Рекомендуем попробовать.
Например, в социальных сетях около недели назад распространилась фотография президента Южной Кореи в тюрьме. Внизу на скриншоте показано, что тюремный костюм взят из фильма, а голова – со снимка информационного агентства Yonhap.
Прогнали фотографию через дипфейк-детектор Visionlabs (на скриншоте наверху). Нейросети верно определили, что снимок главы государства – дипфейк.
Один из инструментов, который лежит в основе Fact Check – бесплатный плагин InVID для браузера Chrome.
Он умеет разбить видео на ключевые кадры для обратного поиска по изображению, извлечь метаданные, найти происхождение контента, обнаружить манипуляции. Рекомендуем попробовать.
Например, в социальных сетях около недели назад распространилась фотография президента Южной Кореи в тюрьме. Внизу на скриншоте показано, что тюремный костюм взят из фильма, а голова – со снимка информационного агентства Yonhap.
Прогнали фотографию через дипфейк-детектор Visionlabs (на скриншоте наверху). Нейросети верно определили, что снимок главы государства – дипфейк.
В Дубае технологию распознавания лиц начнут использовать для идентификации пациентов без сознания. Система будет представлять собой мобильное приложение для врачей скорой помощи.
Для получения эмиратского удостоверения личности – Emirates ID – в обязательном порядке сдаются биометрические данные. Оно, в свою очередь, связано со страховкой и централизованной системой электронных медицинских карт. Таким образом, после идентификации врачи получат доступ к истории болезни пациента.
В будущем биометрическая идентификация должна полностью заменить сканирование Emirates ID для подтверждения личности, которое применяется сейчас. Технология распознавания лиц работает быстрее, говорят в Службе скорой помощи Дубая (Dubai Corporation for Ambulance Services).
Помним, как в России что-то подобное предлагал несколько лет назад поисковый отряд «ЛизаАлерт». Правда, сверяться хотели с базой пропавших людей. С технологической точки зрения, сделать такое можно, но на деле возникло много юридических нюансов, требующих межведомственных согласований. Возможно, ещё получится.
Кстати, закрытые глаза не влияют на точность распознавания лиц. На снимке — британский актёр Джереми Айронс. Дополнительные условия — разница в возрасте более 10 лет, частичное перекрытие лица и закрытые глаза.
Для получения эмиратского удостоверения личности – Emirates ID – в обязательном порядке сдаются биометрические данные. Оно, в свою очередь, связано со страховкой и централизованной системой электронных медицинских карт. Таким образом, после идентификации врачи получат доступ к истории болезни пациента.
В будущем биометрическая идентификация должна полностью заменить сканирование Emirates ID для подтверждения личности, которое применяется сейчас. Технология распознавания лиц работает быстрее, говорят в Службе скорой помощи Дубая (Dubai Corporation for Ambulance Services).
Помним, как в России что-то подобное предлагал несколько лет назад поисковый отряд «ЛизаАлерт». Правда, сверяться хотели с базой пропавших людей. С технологической точки зрения, сделать такое можно, но на деле возникло много юридических нюансов, требующих межведомственных согласований. Возможно, ещё получится.
Кстати, закрытые глаза не влияют на точность распознавания лиц. На снимке — британский актёр Джереми Айронс. Дополнительные условия — разница в возрасте более 10 лет, частичное перекрытие лица и закрытые глаза.
Тестируем OmniHuman-1. Это самая реалистичная из известных нам моделей для создания видеодипфейков.
Компания ByteDance, которая владеет TikTok, продемонстрировала новую модель искусственного интеллекта OmniHuman-1 для создания видеодипфейков. Для генерации достаточно одной картинки и аудиодорожки хорошего качества. Модель обучена на 19 тыс. часах видео.
На вход модель принимает не только речь, но и пение. На выходе можно менять, что попадёт в кадр – лицо крупным планом, объект съёмки по пояс или в полный рост.
ByteDance показала десятки сценариев. Альберт Эйнштейн читает лекцию. Тейлор Свифт поёт на японском. Глава Nvidia Дженсен Хуанг читает рэп.
Мы, как и все, ждали прорыва в генерации голоса и видео, который позволит сделать их максимально реалистичными. Это почти случилось.
Прогнали видео с Тейлор Свифт через детектор дипфейков. Он не справился. Что касается создания и распознавания дипфейков и их распознавания, то сегодня это гонка вирусов и антивирусов. С обеих сторон нас ждут прорывы и разочарования.
Мы думаем, что в будущем в борьбе с мошенниками будут несколько барьеров защиты – встроенные дипфейк-детекторы, определитель номера, автоматическая проверка по общим чатам/контактам, биометрическая верификация и другие.
Компания ByteDance, которая владеет TikTok, продемонстрировала новую модель искусственного интеллекта OmniHuman-1 для создания видеодипфейков. Для генерации достаточно одной картинки и аудиодорожки хорошего качества. Модель обучена на 19 тыс. часах видео.
На вход модель принимает не только речь, но и пение. На выходе можно менять, что попадёт в кадр – лицо крупным планом, объект съёмки по пояс или в полный рост.
ByteDance показала десятки сценариев. Альберт Эйнштейн читает лекцию. Тейлор Свифт поёт на японском. Глава Nvidia Дженсен Хуанг читает рэп.
Мы, как и все, ждали прорыва в генерации голоса и видео, который позволит сделать их максимально реалистичными. Это почти случилось.
Прогнали видео с Тейлор Свифт через детектор дипфейков. Он не справился. Что касается создания и распознавания дипфейков и их распознавания, то сегодня это гонка вирусов и антивирусов. С обеих сторон нас ждут прорывы и разочарования.
Мы думаем, что в будущем в борьбе с мошенниками будут несколько барьеров защиты – встроенные дипфейк-детекторы, определитель номера, автоматическая проверка по общим чатам/контактам, биометрическая верификация и другие.
Нас часто спрашивают – сколько атак совершаются в России с применением дипфейков и какой от них ущерб.
Отвечаем – никто не знает. Потому что люди заявляют о том, что они столкнулись с мошенниками, только в том случае, если надеются что-то вернуть.
Таким образом, большинство атак остаются не подсчитанными. Единственное, что можно сделать – обратиться в топ-10 банков – получить обезличенные данные от них и экстраполировать на всю отрасль. Но здесь речь будет идти исключительно о корпоративном секторе.
Более того, несколько наших собеседников, которые пытаются проанализировать атаки мошенников, считают, что не подсчитанными остаются также большинство атак с ущербом менее 20 тыс. рублей, потому что пользователи не верят в возможность вернуть средства и тоже никуда не обращаются. Мы не можем подтвердить эту информацию.
Если вам рассказывают – сколько атак совершается с применением искусственного интеллекта – обязательно уточните как считали.
Отвечаем – никто не знает. Потому что люди заявляют о том, что они столкнулись с мошенниками, только в том случае, если надеются что-то вернуть.
Таким образом, большинство атак остаются не подсчитанными. Единственное, что можно сделать – обратиться в топ-10 банков – получить обезличенные данные от них и экстраполировать на всю отрасль. Но здесь речь будет идти исключительно о корпоративном секторе.
Более того, несколько наших собеседников, которые пытаются проанализировать атаки мошенников, считают, что не подсчитанными остаются также большинство атак с ущербом менее 20 тыс. рублей, потому что пользователи не верят в возможность вернуть средства и тоже никуда не обращаются. Мы не можем подтвердить эту информацию.
Если вам рассказывают – сколько атак совершается с применением искусственного интеллекта – обязательно уточните как считали.
Про точность распознавания лиц в масках
В разгар пандемии коронавируса японская компания NEC объявила, что она распознаёт людей в медицинских масках с точностью 99,9%. Это невозможно даже в том случае, если человек смотрит прямо в камеру в идеальных условиях – свет, маска одета не слишком высоко и т.д. В реальной жизни, когда человек идёт в маске под камерой, а камера смотрит сверху или сверху и сбоку, в кадр может попадать 10-20% лица, иногда – меньше.
А вот что говорит про точность распознавания лиц в масках руководитель исследовательских проектов Visionlabs Дмитрий Нехаев:
Если мы пытаемся распознать человека, который на одном фото без маски, а на другом – в маске, то точность распознавания немного падает. Ошибка нераспознавания (FNMR), когда система не узнает одного и того же человека, увеличивается в среднем в пять раз – сейчас точность по этому показателю достигает у нас около 99.86% (в идеальных условиях). При этом ошибка ложного распознавания (FMR), когда система путает двух разных людей и говорит, что это один человек, не увеличивается.
На снимке – Ума Турман в медицинской маске (справа), она же закрывает часть лица рукой (слева). Система уверена, что на снимке один из тот же человек. Это не магия. Просто алгоритмы сравнивают не лицо целиком, а ключевые области. Наиболее «полезны» для распознавания область вокруг носа и переносица, поэтому в том числе алгоритмы способны с высокой точностью распознать людей в медицинской маске и солнцезащитных очках.
В разгар пандемии коронавируса японская компания NEC объявила, что она распознаёт людей в медицинских масках с точностью 99,9%. Это невозможно даже в том случае, если человек смотрит прямо в камеру в идеальных условиях – свет, маска одета не слишком высоко и т.д. В реальной жизни, когда человек идёт в маске под камерой, а камера смотрит сверху или сверху и сбоку, в кадр может попадать 10-20% лица, иногда – меньше.
А вот что говорит про точность распознавания лиц в масках руководитель исследовательских проектов Visionlabs Дмитрий Нехаев:
Если мы пытаемся распознать человека, который на одном фото без маски, а на другом – в маске, то точность распознавания немного падает. Ошибка нераспознавания (FNMR), когда система не узнает одного и того же человека, увеличивается в среднем в пять раз – сейчас точность по этому показателю достигает у нас около 99.86% (в идеальных условиях). При этом ошибка ложного распознавания (FMR), когда система путает двух разных людей и говорит, что это один человек, не увеличивается.
На снимке – Ума Турман в медицинской маске (справа), она же закрывает часть лица рукой (слева). Система уверена, что на снимке один из тот же человек. Это не магия. Просто алгоритмы сравнивают не лицо целиком, а ключевые области. Наиболее «полезны» для распознавания область вокруг носа и переносица, поэтому в том числе алгоритмы способны с высокой точностью распознать людей в медицинской маске и солнцезащитных очках.
Forwarded from Mash Room
Майкл Джексон жив! Хит Леджер, кстати, тоже. Они просто ушли из инфополя с помощью подстроенной смерти. У каждого были на то разные причины. А вот Бритни Спирс и Джон Траволта действительно мертвы. Богатенькие продюсеры их заменили, чтобы и дальше зарабатывать денежки на звёздах. Конечно, это всё конспирология, требующая доказательств, но подобные версии имеют место. Ничего вы тут не поделаете.
А вот Брижит Макрон всё-таки женщина. Это нам подтвердили ребята из VisionLabs. Они разработали одну из лучших систем распознавания лиц, которая показала, что на детском фото брата Брижит и на современном снимке первой леди Франции разные люди. Подробнее о расследовании на тему её пола писали тут. Обязательно почитайте, но после карточек про звёзд, которые то ли живы, то ли нет.
Проценты показывают вероятность того, что на фотографиях один и тот же человек. А дальше выводы делайте сами.
❤ Читай шире с Mash Room
А вот Брижит Макрон всё-таки женщина. Это нам подтвердили ребята из VisionLabs. Они разработали одну из лучших систем распознавания лиц, которая показала, что на детском фото брата Брижит и на современном снимке первой леди Франции разные люди. Подробнее о расследовании на тему её пола писали тут. Обязательно почитайте, но после карточек про звёзд, которые то ли живы, то ли нет.
Проценты показывают вероятность того, что на фотографиях один и тот же человек. А дальше выводы делайте сами.
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Про точность распознавания лиц в разном возрасте
Можно ли при помощи системы распознавания лиц найти человека, который пропал 20 лет назад? А 40? В первом случае – скорее всего, да. Во втором – зависит от многих факторов.
Вот что говорит про точность распознавания лиц в разном возрасте руководитель исследовательских проектов Visionlabs Дмитрий Нехаев:
Если между снимками разница в 14 лет, то ошибка нераспознавания (FNMR) увеличится в среднем в два-три раза. Это не так критично. Для сравнения – наличие медицинской маски больше влияет на точность.
В данном случае мы, конечно, говорим о «старении» взрослого человека. Условно, если эталонный снимок человека (с которым проиходит сравнение) сделан, когда он был старше 18 лет. В случае с детьми всё намного сложнее – об этом мы сделаем отдельный пост.
Можно ли при помощи системы распознавания лиц найти человека, который пропал 20 лет назад? А 40? В первом случае – скорее всего, да. Во втором – зависит от многих факторов.
Вот что говорит про точность распознавания лиц в разном возрасте руководитель исследовательских проектов Visionlabs Дмитрий Нехаев:
Если между снимками разница в 14 лет, то ошибка нераспознавания (FNMR) увеличится в среднем в два-три раза. Это не так критично. Для сравнения – наличие медицинской маски больше влияет на точность.
В данном случае мы, конечно, говорим о «старении» взрослого человека. Условно, если эталонный снимок человека (с которым проиходит сравнение) сделан, когда он был старше 18 лет. В случае с детьми всё намного сложнее – об этом мы сделаем отдельный пост.
Конфликт юрисдикций в эпоху ИИ. В Индии набирает обороты судебный спор против OpenAI.
В конце 2024 года индийское новостное агентство ANI подало иск против OpenAI, обвинив компанию в незаконном использовании авторского контента при обучении ИИ-моделей. Истцы требуют удалить их материалы из уже обученной модели и выплатить компенсацию в $230 000. К иску уже присоединились Ассоциация издателей цифровых новостей (DNPA), Indian Express и Hindustan Times.
Позиция СМИ:
– OpenAI использует защищённый авторским правом контент без разрешения.
- Компания не имеет лицензионных соглашений с индийскими СМИ, в отличие от некоторых международных партнёров.
– Действия OpenAI угрожают авторским правам издателей и наносят ущерб их бизнесу, усиливая доминирование технологических корпораций в распределении контента и рекламных доходов.
Позиция OpenAI:
– Удаление данных технически почти невозможно. Даже если компания исключит определённые тексты из будущих версий, предыдущие релизы останутся «загрязнёнными».
– Запрос истцов противоречит законодательству США, включая принципы добросовестного использования (fair use) и условия хранения информации, предусмотренные Digital Millennium Copyright Act (DMCA).
Текущий статус:
Высокий суд Дели рассматривает вопрос о юрисдикции. OpenAI утверждает, что индийские суды не могут рассматривать иск, поскольку серверы и обучение моделей находятся за пределами Индии. Однако суд назначил слушания на февраль 2025 года, чтобы оценить аргументы о доступности ChatGPT в Индии и применимости местного законодательства.
Попросили прокомментировать старшего юриста MTS AI Кирилла Дьякова:
Как может разрешиться спор?
Индия применяет смешанную систему права, поэтому судья, вероятно, опираясь на прецедент с Telegram (2022), признает юрисдикцию местных судов, несмотря на иностранные серверы OpenAI. Это вынудит компанию либо договариваться с истцами, либо искать технические решения для удаления данных.
Что ждёт ИИ-индустрию?
1. Каждая страна, защищая свой «юридический суверенитет», будет вводить новые регуляторные нормы, опираясь на судебную практику и мировой опыт.
2. Разработчикам ИИ придётся:
– Вести реестры данных, используемых для обучения моделей.
– Заключать лицензионные соглашения с правообладателями.
– Разрабатывать методы «забывания» данных (machine unlearning), что станет критически важным.
В конце 2024 года индийское новостное агентство ANI подало иск против OpenAI, обвинив компанию в незаконном использовании авторского контента при обучении ИИ-моделей. Истцы требуют удалить их материалы из уже обученной модели и выплатить компенсацию в $230 000. К иску уже присоединились Ассоциация издателей цифровых новостей (DNPA), Indian Express и Hindustan Times.
Позиция СМИ:
– OpenAI использует защищённый авторским правом контент без разрешения.
- Компания не имеет лицензионных соглашений с индийскими СМИ, в отличие от некоторых международных партнёров.
– Действия OpenAI угрожают авторским правам издателей и наносят ущерб их бизнесу, усиливая доминирование технологических корпораций в распределении контента и рекламных доходов.
Позиция OpenAI:
– Удаление данных технически почти невозможно. Даже если компания исключит определённые тексты из будущих версий, предыдущие релизы останутся «загрязнёнными».
– Запрос истцов противоречит законодательству США, включая принципы добросовестного использования (fair use) и условия хранения информации, предусмотренные Digital Millennium Copyright Act (DMCA).
Текущий статус:
Высокий суд Дели рассматривает вопрос о юрисдикции. OpenAI утверждает, что индийские суды не могут рассматривать иск, поскольку серверы и обучение моделей находятся за пределами Индии. Однако суд назначил слушания на февраль 2025 года, чтобы оценить аргументы о доступности ChatGPT в Индии и применимости местного законодательства.
Попросили прокомментировать старшего юриста MTS AI Кирилла Дьякова:
Как может разрешиться спор?
Индия применяет смешанную систему права, поэтому судья, вероятно, опираясь на прецедент с Telegram (2022), признает юрисдикцию местных судов, несмотря на иностранные серверы OpenAI. Это вынудит компанию либо договариваться с истцами, либо искать технические решения для удаления данных.
Что ждёт ИИ-индустрию?
1. Каждая страна, защищая свой «юридический суверенитет», будет вводить новые регуляторные нормы, опираясь на судебную практику и мировой опыт.
2. Разработчикам ИИ придётся:
– Вести реестры данных, используемых для обучения моделей.
– Заключать лицензионные соглашения с правообладателями.
– Разрабатывать методы «забывания» данных (machine unlearning), что станет критически важным.
Слухи о замене Бритни Спирс двойником то появлялись, то опровергались. К счастью, система распознавания лиц уверена, что на фотографии певицы в начале карьеры и более позднем снимке – один и тот же человек. Надеемся, что мы ещё споём на концерте Бритни.