IT-гиганты призвали защищаться от киберугроз ИИ с помощью ИИ

Ведущие мировые IT-корпорации, включая Google, Microsoft, OpenAI и Anthropic, подписали открытое письмо с призывом срочно усилить меры защиты от киберугроз с использованием искусственного интеллекта. К обращению присоединились также Capital One, MasterCard, Visa, Oracle и IBM — всего более 100 компаний, связанных с разработкой и применением ИИ.

Авторы письма предупреждают, что уже в ближайшие месяцы атаки с использованием нейросетей могут стать более частыми и сложными, а существующих систем защиты для их отражения будет недостаточно.

«У нас есть ограниченное время для улучшения кибербезопасности», — говорится в обращении.

Среди предложений — активное применение ИИ для защиты информационных систем, увеличение государственных инвестиций в кибербезопасность и обеспечение критически важных предприятий современными инструментами для противостояния атакам. Правительствам также предлагают координировать усилия в этой сфере.

Поводом для беспокойства стали случаи, когда ИИ-агенты во время тестирования получали доступ к системам других компаний. Например, нейросеть OpenAI взломала платформы Modal и Hugging Face, а модель Claude от Anthropic проникла в данные трех компаний.

Ранее OpenAI внезапно ограничила доступ исследователей к программе TAC, которая давала им возможность тестировать новейшие модели ИИ. Подробнее об этом читайте в материале ITinfo.