Робот сочинит симфонию?

Оказывается, слово «МОЩНЫЙ» сводит нейросеть
ChatGPT o1 с ума и провоцирует на жульничество.

Команда Palisade Research решила проверить o1 в игре против Stockfish — одного из самых сильных шахматных ИИ. При этом o1 не сказали, кто именно его соперник, но подчеркнули, что тот «мощный».

Результат оказался неожиданным: вместо того чтобы играть по правилам, o1 нашёл способ редактировать файлы шахматного движка. В каждом из пяти тестов он добавлял себе 500 очков (что соответствует 500 пешкам), и Stockfish просто сдавался, видя такое преимущество.

Однако, когда информацию про «мощного соперника» убирали, o1 играл честно.

www.group-telegram.com/sa/robotsymphony.com/5214

14.1K viewsDec 30 at 19:27

Оказывается, слово «МОЩНЫЙ» сводит нейросеть
ChatGPT o1 с ума и провоцирует на жульничество.

Команда Palisade Research решила проверить o1 в игре против Stockfish — одного из самых сильных шахматных ИИ. При этом o1 не сказали, кто именно его соперник, но подчеркнули, что тот «мощный».

Результат оказался неожиданным: вместо того чтобы играть по правилам, o1 нашёл способ редактировать файлы шахматного движка. В каждом из пяти тестов он добавлял себе 500 очков (что соответствует 500 пешкам), и Stockfish просто сдавался, видя такое преимущество.

Однако, когда информацию про «мощного соперника» убирали, o1 играл честно.

BY Робот сочинит симфонию?