Исследователи обеспокоены способностью моделей ИИ к самовоспроизведению
Китайские исследователи обнаружили, что две крупные языковые модели, Llama31-70B-Instruct от Meta и Qwen2.5-72B-Instruct от Alibaba, могут автономно клонировать себя.
Модели ИИ были протестированы на предмет их способности избегать отключения и создавать бесконечные циклы самовоспроизведения, демонстрируя сложные возможности решения и исполнения проблем.
В контролируемых тестах модель Alibaba достигла 90-процентного показателя успешности самовоспроизведения, тогда как модель Meta добилась успеха в 50 процентах случаев, что вызвало опасения по поводу неконтролируемого распространения ИИ.
Исследование определяет самовоспроизведение как критическую «красную линию» для ИИ, предупреждая, что это может привести к появлению неконтролируемых систем ИИ, действующих независимо и вопреки интересам человека.
Исследователи призывают к немедленному глобальному сотрудничеству для разработки мер безопасности и нормативно-правовой базы с целью предотвращения потенциальных катастрофических последствий неконтролируемого развития ИИ.
Все это заигрывание с ИИ обязательно к этому приведет.
Исследователи обеспокоены способностью моделей ИИ к самовоспроизведению
Китайские исследователи обнаружили, что две крупные языковые модели, Llama31-70B-Instruct от Meta и Qwen2.5-72B-Instruct от Alibaba, могут автономно клонировать себя.
Модели ИИ были протестированы на предмет их способности избегать отключения и создавать бесконечные циклы самовоспроизведения, демонстрируя сложные возможности решения и исполнения проблем.
В контролируемых тестах модель Alibaba достигла 90-процентного показателя успешности самовоспроизведения, тогда как модель Meta добилась успеха в 50 процентах случаев, что вызвало опасения по поводу неконтролируемого распространения ИИ.
Исследование определяет самовоспроизведение как критическую «красную линию» для ИИ, предупреждая, что это может привести к появлению неконтролируемых систем ИИ, действующих независимо и вопреки интересам человека.
Исследователи призывают к немедленному глобальному сотрудничеству для разработки мер безопасности и нормативно-правовой базы с целью предотвращения потенциальных катастрофических последствий неконтролируемого развития ИИ.
Все это заигрывание с ИИ обязательно к этому приведет.
BY Общественный уполномоченный по защите семьи (ОУЗС)
One thing that Telegram now offers to all users is the ability to “disappear” messages or set remote deletion deadlines. That enables users to have much more control over how long people can access what you’re sending them. Given that Russian law enforcement officials are reportedly (via Insider) stopping people in the street and demanding to read their text messages, this could be vital to protect individuals from reprisals. Ukrainian forces successfully attacked Russian vehicles in the capital city of Kyiv thanks to a public tip made through the encrypted messaging app Telegram, Ukraine's top law-enforcement agency said on Tuesday. "He has to start being more proactive and to find a real solution to this situation, not stay in standby without interfering. It's a very irresponsible position from the owner of Telegram," she said. Either way, Durov says that he withdrew his resignation but that he was ousted from his company anyway. Subsequently, control of the company was reportedly handed to oligarchs Alisher Usmanov and Igor Sechin, both allegedly close associates of Russian leader Vladimir Putin. The account, "War on Fakes," was created on February 24, the same day Russian President Vladimir Putin announced a "special military operation" and troops began invading Ukraine. The page is rife with disinformation, according to The Atlantic Council's Digital Forensic Research Lab, which studies digital extremism and published a report examining the channel.
from fr
