Исследователи обеспокоены способностью моделей ИИ к самовоспроизведению
Китайские исследователи обнаружили, что две крупные языковые модели, Llama31-70B-Instruct от Meta и Qwen2.5-72B-Instruct от Alibaba, могут автономно клонировать себя.
Модели ИИ были протестированы на предмет их способности избегать отключения и создавать бесконечные циклы самовоспроизведения, демонстрируя сложные возможности решения и исполнения проблем.
В контролируемых тестах модель Alibaba достигла 90-процентного показателя успешности самовоспроизведения, тогда как модель Meta добилась успеха в 50 процентах случаев, что вызвало опасения по поводу неконтролируемого распространения ИИ.
Исследование определяет самовоспроизведение как критическую «красную линию» для ИИ, предупреждая, что это может привести к появлению неконтролируемых систем ИИ, действующих независимо и вопреки интересам человека.
Исследователи призывают к немедленному глобальному сотрудничеству для разработки мер безопасности и нормативно-правовой базы с целью предотвращения потенциальных катастрофических последствий неконтролируемого развития ИИ.
Все это заигрывание с ИИ обязательно к этому приведет.
Исследователи обеспокоены способностью моделей ИИ к самовоспроизведению
Китайские исследователи обнаружили, что две крупные языковые модели, Llama31-70B-Instruct от Meta и Qwen2.5-72B-Instruct от Alibaba, могут автономно клонировать себя.
Модели ИИ были протестированы на предмет их способности избегать отключения и создавать бесконечные циклы самовоспроизведения, демонстрируя сложные возможности решения и исполнения проблем.
В контролируемых тестах модель Alibaba достигла 90-процентного показателя успешности самовоспроизведения, тогда как модель Meta добилась успеха в 50 процентах случаев, что вызвало опасения по поводу неконтролируемого распространения ИИ.
Исследование определяет самовоспроизведение как критическую «красную линию» для ИИ, предупреждая, что это может привести к появлению неконтролируемых систем ИИ, действующих независимо и вопреки интересам человека.
Исследователи призывают к немедленному глобальному сотрудничеству для разработки мер безопасности и нормативно-правовой базы с целью предотвращения потенциальных катастрофических последствий неконтролируемого развития ИИ.
Все это заигрывание с ИИ обязательно к этому приведет.
BY Общественный уполномоченный по защите семьи (ОУЗС)
"He has to start being more proactive and to find a real solution to this situation, not stay in standby without interfering. It's a very irresponsible position from the owner of Telegram," she said. Telegram has gained a reputation as the “secure” communications app in the post-Soviet states, but whenever you make choices about your digital security, it’s important to start by asking yourself, “What exactly am I securing? And who am I securing it from?” These questions should inform your decisions about whether you are using the right tool or platform for your digital security needs. Telegram is certainly not the most secure messaging app on the market right now. Its security model requires users to place a great deal of trust in Telegram’s ability to protect user data. For some users, this may be good enough for now. For others, it may be wiser to move to a different platform for certain kinds of high-risk communications. This ability to mix the public and the private, as well as the ability to use bots to engage with users has proved to be problematic. In early 2021, a database selling phone numbers pulled from Facebook was selling numbers for $20 per lookup. Similarly, security researchers found a network of deepfake bots on the platform that were generating images of people submitted by users to create non-consensual imagery, some of which involved children. In addition, Telegram's architecture limits the ability to slow the spread of false information: the lack of a central public feed, and the fact that comments are easily disabled in channels, reduce the space for public pushback. There was another possible development: Reuters also reported that Ukraine said that Belarus could soon join the invasion of Ukraine. However, the AFP, citing a Pentagon official, said the U.S. hasn’t yet seen evidence that Belarusian troops are in Ukraine.
from kr
