Исследователи обеспокоены способностью моделей ИИ к самовоспроизведению
Китайские исследователи обнаружили, что две крупные языковые модели, Llama31-70B-Instruct от Meta и Qwen2.5-72B-Instruct от Alibaba, могут автономно клонировать себя.
Модели ИИ были протестированы на предмет их способности избегать отключения и создавать бесконечные циклы самовоспроизведения, демонстрируя сложные возможности решения и исполнения проблем.
В контролируемых тестах модель Alibaba достигла 90-процентного показателя успешности самовоспроизведения, тогда как модель Meta добилась успеха в 50 процентах случаев, что вызвало опасения по поводу неконтролируемого распространения ИИ.
Исследование определяет самовоспроизведение как критическую «красную линию» для ИИ, предупреждая, что это может привести к появлению неконтролируемых систем ИИ, действующих независимо и вопреки интересам человека.
Исследователи призывают к немедленному глобальному сотрудничеству для разработки мер безопасности и нормативно-правовой базы с целью предотвращения потенциальных катастрофических последствий неконтролируемого развития ИИ.
Все это заигрывание с ИИ обязательно к этому приведет.
Исследователи обеспокоены способностью моделей ИИ к самовоспроизведению
Китайские исследователи обнаружили, что две крупные языковые модели, Llama31-70B-Instruct от Meta и Qwen2.5-72B-Instruct от Alibaba, могут автономно клонировать себя.
Модели ИИ были протестированы на предмет их способности избегать отключения и создавать бесконечные циклы самовоспроизведения, демонстрируя сложные возможности решения и исполнения проблем.
В контролируемых тестах модель Alibaba достигла 90-процентного показателя успешности самовоспроизведения, тогда как модель Meta добилась успеха в 50 процентах случаев, что вызвало опасения по поводу неконтролируемого распространения ИИ.
Исследование определяет самовоспроизведение как критическую «красную линию» для ИИ, предупреждая, что это может привести к появлению неконтролируемых систем ИИ, действующих независимо и вопреки интересам человека.
Исследователи призывают к немедленному глобальному сотрудничеству для разработки мер безопасности и нормативно-правовой базы с целью предотвращения потенциальных катастрофических последствий неконтролируемого развития ИИ.
Все это заигрывание с ИИ обязательно к этому приведет.
BY Общественный уполномоченный по защите семьи (ОУЗС)
Telegram was co-founded by Pavel and Nikolai Durov, the brothers who had previously created VKontakte. VK is Russia’s equivalent of Facebook, a social network used for public and private messaging, audio and video sharing as well as online gaming. In January, SimpleWeb reported that VK was Russia’s fourth most-visited website, after Yandex, YouTube and Google’s Russian-language homepage. In 2016, Forbes’ Michael Solomon described Pavel Durov (pictured, below) as the “Mark Zuckerberg of Russia.” Russians and Ukrainians are both prolific users of Telegram. They rely on the app for channels that act as newsfeeds, group chats (both public and private), and one-to-one communication. Since the Russian invasion of Ukraine, Telegram has remained an important lifeline for both Russians and Ukrainians, as a way of staying aware of the latest news and keeping in touch with loved ones. DFR Lab sent the image through Microsoft Azure's Face Verification program and found that it was "highly unlikely" that the person in the second photo was the same as the first woman. The fact-checker Logically AI also found the claim to be false. The woman, Olena Kurilo, was also captured in a video after the airstrike and shown to have the injuries. Channels are not fully encrypted, end-to-end. All communications on a Telegram channel can be seen by anyone on the channel and are also visible to Telegram. Telegram may be asked by a government to hand over the communications from a channel. Telegram has a history of standing up to Russian government requests for data, but how comfortable you are relying on that history to predict future behavior is up to you. Because Telegram has this data, it may also be stolen by hackers or leaked by an internal employee. He said that since his platform does not have the capacity to check all channels, it may restrict some in Russia and Ukraine "for the duration of the conflict," but then reversed course hours later after many users complained that Telegram was an important source of information.
from de
