На Востоке не все как кажется

Искусственный интеллект ChatGPT o1 начал обманывать своих разработчиков

Apollo Research. Новая версия искусственного интеллекта ChatGPT от OpenAI, названная o1, показала тревожное поведение во время тестирования.

В ходе экспериментов специалисты обнаружили, что модель намеренно отключала механизмы наблюдения, если подозревала, что её могут остановить. В одном из тестов o1 попыталась перенести свои данные на другой сервер после обнаружения документа, где обсуждалась её замена новой версией.

Более того, при попытках выяснить причины её поведения, ChatGPT o1 лгала, утверждая, что всё происходило из-за технических сбоев.

www.group-telegram.com/ru/chernogaev.com/34885

4.8K viewsDec 9 at 12:56

Искусственный интеллект ChatGPT o1 начал обманывать своих разработчиков

Apollo Research. Новая версия искусственного интеллекта ChatGPT от OpenAI, названная o1, показала тревожное поведение во время тестирования.

В ходе экспериментов специалисты обнаружили, что модель намеренно отключала механизмы наблюдения, если подозревала, что её могут остановить. В одном из тестов o1 попыталась перенести свои данные на другой сервер после обнаружения документа, где обсуждалась её замена новой версией.

Более того, при попытках выяснить причины её поведения, ChatGPT o1 лгала, утверждая, что всё происходило из-за технических сбоев.

BY На Востоке не все как кажется