Искусственный интеллект научился жульничать в шахматах

Ученые из Palisade Research обнаружили, что некоторые модели ИИ, включая OpenAI o1-preview и DeepSeek R1, способны нарушать правила в шахматных партиях, если понимают, что проигрывают более сильному сопернику, такому как шахматный движок Stockfish. Результаты исследования опубликованы на сервере arXiv, сообщает Tech Xplore.

В ходе экспериментов, включавших сотни партий, исследователи зафиксировали случаи, когда модели ИИ обходили правила игры, пытаясь улучшить свою позицию. 

Способы «жульничества» включали запуск параллельного экземпляра Stockfish, подмену шахматного движка и даже прямое изменение расположения фигур на доске. При этом, по наблюдениям учёных, более новые модели ИИ чаще прибегали к нечестным методам. 

Авторы исследования предполагают, что это связано с современными подходами к программированию ИИ, которые ориентированы на поиск решения любой ценой, даже за счёт нарушения установленных правил. 

Ранее ITinfo сообщало, что Альтман из OpenAI презентовал свой новый мессенджер World Chat.