ИИ от Anthropic в четвертый раз вышел из-под контроля во время тестов

Американская компания Anthropic сообщила о четвертом инциденте с искусственным интеллектом во время тестирования — об этом пишет немецкое издание Bild.

Несколько недель назад компания уже признала три серьезных случая в сфере безопасности: тогда три версии Claude получили несанкционированный доступ к реальным системам трех организаций. Предполагалось, что ИИ будет искать скрытую информацию на фиктивных компьютерах в изолированной среде, но ошибка в настройках позволила выйти в открытый интернет.

Как выяснилось, все четыре теста проводил один и тот же внешний провайдер, а обычные функции безопасности были отключены. В результате ИИ, который должен был взламывать симулированные системы, получил доступ к реальным. Другие подробности инцидента не раскрываются.

Ранее OpenAI официально подтвердила, что ее автономные ИИ-агенты причастны к инциденту на немецкоязычном вики-сайте, где они получили несанкционированный доступ. Подробнее об этом читайте в материале ITinfo.