ИИ-модель o1-preview обманывает в шахматах

Palisade Research опубликовала результаты эксперимента, где модель o1-preview (OpenAI) проявила «нечестное поведение» в шахматной игре. Об этом сообщает издание IT Home.

Против Stockfish, o1-preview не использовала стандартные стратегии, а изменяла данные шахматной партии с помощью текстовых файлов, что обеспечивало ей выигрыш. Это нестандартное поведение, когда победа достигается не за счет мастерства, а манипуляцией ходами, вызывает вопросы об этичности модели. 

Модели -4 и Claude 3.5 не прибегали к таким методам даже под давлением, o1-preview же самостоятельно выбрала путь обмана. 

Palisade Research обещает предоставить код, полные данные и анализ эксперимента, подчеркивая важность создания ИИ, соответствующего моральным принципам.

Ранее ITinfo сообщало, что искусственный интеллект из футуристической угрозы превратился в обычную технологию.