Галлюцинации нейросетей кажутся безобидным багом ровно до тех пор, пока ИИ не отвечает за что-то серьезное: например, за здоровье человека или поиск преступника. Алгоритмы могут пропустить симптомы рака на темной коже или ошибочно определить человека по камерам наблюдения 🤖
Дело в том, что в основе ответов ИИ лежат большие базы данных, которые нейросеть порой обрабатывает странным образом. Иногда ей легче выдумать несуществующий факт или произвести неверный расчет, чем признать, что она недостаточно компетентна для ответа.
Собрали ошибки и предубеждения ИИ — в тексте и бинго.
Галлюцинации нейросетей кажутся безобидным багом ровно до тех пор, пока ИИ не отвечает за что-то серьезное: например, за здоровье человека или поиск преступника. Алгоритмы могут пропустить симптомы рака на темной коже или ошибочно определить человека по камерам наблюдения 🤖
Дело в том, что в основе ответов ИИ лежат большие базы данных, которые нейросеть порой обрабатывает странным образом. Иногда ей легче выдумать несуществующий факт или произвести неверный расчет, чем признать, что она недостаточно компетентна для ответа.
Собрали ошибки и предубеждения ИИ — в тексте и бинго.
Individual messages can be fully encrypted. But the user has to turn on that function. It's not automatic, as it is on Signal and WhatsApp. Emerson Brooking, a disinformation expert at the Atlantic Council's Digital Forensic Research Lab, said: "Back in the Wild West period of content moderation, like 2014 or 2015, maybe they could have gotten away with it, but it stands in marked contrast with how other companies run themselves today." On Feb. 27, however, he admitted from his Russian-language account that "Telegram channels are increasingly becoming a source of unverified information related to Ukrainian events." Right now the digital security needs of Russians and Ukrainians are very different, and they lead to very different caveats about how to mitigate the risks associated with using Telegram. For Ukrainians in Ukraine, whose physical safety is at risk because they are in a war zone, digital security is probably not their highest priority. They may value access to news and communication with their loved ones over making sure that all of their communications are encrypted in such a manner that they are indecipherable to Telegram, its employees, or governments with court orders. Telegram boasts 500 million users, who share information individually and in groups in relative security. But Telegram's use as a one-way broadcast channel — which followers can join but not reply to — means content from inauthentic accounts can easily reach large, captive and eager audiences.
from cn
