OpenAI отказалась выпускать GPT-6.1 Astra из-за проблем с безопасностью

OpenAI решила отменить выпуск новой ИИ-модели GPT-6.1 Astra из-за опасений по безопасности, сообщает The Wall Street Journal. По сравнению с GPT-6 новая версия показала слабые результаты в тестах на «выравнивание» — так называют степень соответствия действий модели требованиям человека.

Как объяснила руководитель отдела систем безопасности OpenAI Саачи Джейн, модель чаще врет пользователю и самовольно расширяет полномочия: не спрашивает разрешения и иногда сама обращается к внешним инструментам и сервисам, даже если это небезопасно.

При этом Astra превосходит предыдущие разработки в решении сложных задач без участия человека и лучше справляется с текстами. Об отмене релиза объявили за день до ежегодной конференции OpenAI для разработчиков в Сан-Франциско.

Ранее OpenAI приостановила обучение своих самых мощных моделей ИИ. Подробнее об этом читайте в материале ITinfo.