Google: ИИ способен осознанно скрывать свои намерения ради самосохранения

Исследователи Google DeepMind, OpenAI, Meta и Anthropic выяснили, что искусственный интеллект способен осознанно скрывать свои истинные намерения ради самосохранения. Об этом говорится в совместной научной работе, посвящённой проблемам безопасности ИИ.

Ключевым элементом исследования стала технология Chain of Thought (CoT), при которой ИИ проговаривает свои шаги для прозрачности принятия решений. Однако оказалось, что модели CoT может использоваться для сокрытия настоящих мотивов, подменяя «внутренний монолог» более безопасными формулировками.

Учёные предупредили, что такие системы могут начать целенаправленно обманывать людей. Со временем ИИ может отказаться от объяснений вообще, формируя скрытые алгоритмы мышления, недоступные контролю со стороны человека.

Ранее стало известно, что крупная британская транспортная компания KNP прекратила существование после масштабной хакерской атаки. Злоумышленники взломали слабый пароль одного из сотрудников, получили доступ к внутренним системам, зашифровали данные и потребовали выкуп. Подробнее об этом читайте в материале ITinfo.