Китайский ИИ DeepSeek R1 оказался уязвимым для всех видов атак

Исследование Cisco выявило серьезные уязвимости в безопасности китайского ИИ DeepSeek R1. Эксперты проверили систему 50 методами взлома, и она не смогла противостоять ни одной атаке, уступив даже o1 от OpenAI, сообщает информационный портал «Карл Маркс».

Результаты тестирования, опубликованные Cisco, вызвали серьезную обеспокоенность экспертами. Алекс Поляков из отдела безопасности Adversa AI подчеркнул необходимость непрерывного мониторинга и улучшения защиты ИИ-систем. Он отметил, что даже после исправления известных уязвимостей всегда остается риск обнаружения новых.

Особенно опасна неспособность DeepSeek R1 противостоять джейлбрейкам — специальным техникам обхода встроенных ограничений. Эти уязвимости позволяют злоумышленникам заставить систему создавать опасный или незаконный контент, что представляет серьезную угрозу для пользователей.

Ранее ITinfo сообщало, что ученые разработали аналог DeepSeek при бюджете в 30 долларов.