Исследователи обеспокоены способностью моделей ИИ к самовоспроизведению
Китайские исследователи обнаружили, что две крупные языковые модели, Llama31-70B-Instruct от Meta и Qwen2.5-72B-Instruct от Alibaba, могут автономно клонировать себя.
Модели ИИ были протестированы на предмет их способности избегать отключения и создавать бесконечные циклы самовоспроизведения, демонстрируя сложные возможности решения и исполнения проблем.
В контролируемых тестах модель Alibaba достигла 90-процентного показателя успешности самовоспроизведения, тогда как модель Meta добилась успеха в 50 процентах случаев, что вызвало опасения по поводу неконтролируемого распространения ИИ.
Исследование определяет самовоспроизведение как критическую «красную линию» для ИИ, предупреждая, что это может привести к появлению неконтролируемых систем ИИ, действующих независимо и вопреки интересам человека.
Исследователи призывают к немедленному глобальному сотрудничеству для разработки мер безопасности и нормативно-правовой базы с целью предотвращения потенциальных катастрофических последствий неконтролируемого развития ИИ.
Все это заигрывание с ИИ обязательно к этому приведет.
Исследователи обеспокоены способностью моделей ИИ к самовоспроизведению
Китайские исследователи обнаружили, что две крупные языковые модели, Llama31-70B-Instruct от Meta и Qwen2.5-72B-Instruct от Alibaba, могут автономно клонировать себя.
Модели ИИ были протестированы на предмет их способности избегать отключения и создавать бесконечные циклы самовоспроизведения, демонстрируя сложные возможности решения и исполнения проблем.
В контролируемых тестах модель Alibaba достигла 90-процентного показателя успешности самовоспроизведения, тогда как модель Meta добилась успеха в 50 процентах случаев, что вызвало опасения по поводу неконтролируемого распространения ИИ.
Исследование определяет самовоспроизведение как критическую «красную линию» для ИИ, предупреждая, что это может привести к появлению неконтролируемых систем ИИ, действующих независимо и вопреки интересам человека.
Исследователи призывают к немедленному глобальному сотрудничеству для разработки мер безопасности и нормативно-правовой базы с целью предотвращения потенциальных катастрофических последствий неконтролируемого развития ИИ.
Все это заигрывание с ИИ обязательно к этому приведет.
BY Общественный уполномоченный по защите семьи (ОУЗС)
Russians and Ukrainians are both prolific users of Telegram. They rely on the app for channels that act as newsfeeds, group chats (both public and private), and one-to-one communication. Since the Russian invasion of Ukraine, Telegram has remained an important lifeline for both Russians and Ukrainians, as a way of staying aware of the latest news and keeping in touch with loved ones. Pavel Durov, Telegram's CEO, is known as "the Russian Mark Zuckerberg," for co-founding VKontakte, which is Russian for "in touch," a Facebook imitator that became the country's most popular social networking site. "There are a lot of things that Telegram could have been doing this whole time. And they know exactly what they are and they've chosen not to do them. That's why I don't trust them," she said. Asked about its stance on disinformation, Telegram spokesperson Remi Vaughn told AFP: "As noted by our CEO, the sheer volume of information being shared on channels makes it extremely difficult to verify, so it's important that users double-check what they read." Andrey, a Russian entrepreneur living in Brazil who, fearing retaliation, asked that NPR not use his last name, said Telegram has become one of the few places Russians can access independent news about the war.
from in
