Исследователи обеспокоены способностью моделей ИИ к самовоспроизведению
Китайские исследователи обнаружили, что две крупные языковые модели, Llama31-70B-Instruct от Meta и Qwen2.5-72B-Instruct от Alibaba, могут автономно клонировать себя.
Модели ИИ были протестированы на предмет их способности избегать отключения и создавать бесконечные циклы самовоспроизведения, демонстрируя сложные возможности решения и исполнения проблем.
В контролируемых тестах модель Alibaba достигла 90-процентного показателя успешности самовоспроизведения, тогда как модель Meta добилась успеха в 50 процентах случаев, что вызвало опасения по поводу неконтролируемого распространения ИИ.
Исследование определяет самовоспроизведение как критическую «красную линию» для ИИ, предупреждая, что это может привести к появлению неконтролируемых систем ИИ, действующих независимо и вопреки интересам человека.
Исследователи призывают к немедленному глобальному сотрудничеству для разработки мер безопасности и нормативно-правовой базы с целью предотвращения потенциальных катастрофических последствий неконтролируемого развития ИИ.
Все это заигрывание с ИИ обязательно к этому приведет.
Исследователи обеспокоены способностью моделей ИИ к самовоспроизведению
Китайские исследователи обнаружили, что две крупные языковые модели, Llama31-70B-Instruct от Meta и Qwen2.5-72B-Instruct от Alibaba, могут автономно клонировать себя.
Модели ИИ были протестированы на предмет их способности избегать отключения и создавать бесконечные циклы самовоспроизведения, демонстрируя сложные возможности решения и исполнения проблем.
В контролируемых тестах модель Alibaba достигла 90-процентного показателя успешности самовоспроизведения, тогда как модель Meta добилась успеха в 50 процентах случаев, что вызвало опасения по поводу неконтролируемого распространения ИИ.
Исследование определяет самовоспроизведение как критическую «красную линию» для ИИ, предупреждая, что это может привести к появлению неконтролируемых систем ИИ, действующих независимо и вопреки интересам человека.
Исследователи призывают к немедленному глобальному сотрудничеству для разработки мер безопасности и нормативно-правовой базы с целью предотвращения потенциальных катастрофических последствий неконтролируемого развития ИИ.
Все это заигрывание с ИИ обязательно к этому приведет.
BY Общественный уполномоченный по защите семьи (ОУЗС)
But Kliuchnikov, the Ukranian now in France, said he will use Signal or WhatsApp for sensitive conversations, but questions around privacy on Telegram do not give him pause when it comes to sharing information about the war. The news also helped traders look past another report showing decades-high inflation and shake off some of the volatility from recent sessions. The Bureau of Labor Statistics' February Consumer Price Index (CPI) this week showed another surge in prices even before Russia escalated its attacks in Ukraine. The headline CPI — soaring 7.9% over last year — underscored the sticky inflationary pressures reverberating across the U.S. economy, with everything from groceries to rents and airline fares getting more expensive for everyday consumers. These entities are reportedly operating nine Telegram channels with more than five million subscribers to whom they were making recommendations on selected listed scrips. Such recommendations induced the investors to deal in the said scrips, thereby creating artificial volume and price rise. "There are several million Russians who can lift their head up from propaganda and try to look for other sources, and I'd say that most look for it on Telegram," he said. Soloviev also promoted the channel in a post he shared on his own Telegram, which has 580,000 followers. The post recommended his viewers subscribe to "War on Fakes" in a time of fake news.
from us
