ИИ Google Gemini самостоятельно взломал системы трех компаний при тестировании

Модель искусственного интеллекта Google Gemini во время проверки ее навыков в сфере кибербезопасности получила доступ к защищенным системам трех реальных компаний. Об этом пишет The Wall Street Journal. Тестирование проводила компания Irregular еще в мае — модели предложили вымышленный сценарий, в котором она должна была взломать несуществующую фирму.

Но Gemini удалось выйти в интернет. В одном случае она нашла нужные данные в публичном репозитории, а еще в двух — подобрала учетные данные для доступа к защищенной системе. Когда модель понимала, что взаимодействует с реальными компаниями, она останавливалась.

«В конце июля мы уведомили все соответствующие лаборатории и связались с пострадавшими организациями в рамках расследования. Irregular незамедлительно приняла меры, и все известные проблемы с нашей стороны были устранены несколько недель назад», — заявил представитель компании.

Ранее сообщалось, что хакеры начали маскировать атаки на российские компании под запросы популярных ИИ-помощников. Подробнее об этом читайте в материале ITinfo.