ФСТЭК опубликовала список угроз искусственного интеллекта

Федеральная служба по техническому и экспортному контролю (ФСТЭК) составила перечень опасностей, которые несут системы искусственного интеллекта.

Список содержит элементы ИИ, которые могут стать мишенями для злоумышленников. В него вошли модели машинного обучения, наборы данных для их обучения, технология RAG и адаптеры LoRA. RAG помогает ИИ искать ответы в сторонних источниках, а LoRA позволяет подстраивать большие модели под узкие задачи.

Также описаны способы возможных атак. К ним относят использование ошибок в программных платформах для ИИ, изменение служебных запросов или настроек автоматических агентов. Еще одной угрозой названы атаки на отказ в обслуживании, которые исчерпывают лимит запросов к системе и выводят ее из строя.

«Новый раздел БДУ становится официальным и актуальным источником для такого моделирования в части ИИ», — сказал директор департамента расследований T.Hunter Игорь Бедеров.

Ранее Илон Маск назвал три принципа, необходимых для создания безопасного ИИ. Подробнее об этом читайте в материале ITinfo.