Мошенники использовали нейросеть Grok для распространения вредоносных ссылок

Специалисты по кибербезопасности выявили новый способ распространения вредоносного программного обеспечения через нейросеть Grok, разработанную компанией xAI Илона Маска. Злоумышленники научились использовать ИИ для создания ссылок на опасные сайты, которые могут заразить устройства пользователей и похитить личные данные.

Киберпреступники размещают на платформе X ролики с эротическим содержанием. Чтобы ссылки не блокировались модераторами, они не размещают их в тексте, а скрывают в метаданных поля «От:» под видео, которое не проверяется на наличие вредоносного контента.

Далее злоумышленники оставляют комментарии под видео с просьбой к ИИ-ассистенту Grok определить источник материала. Нейросеть считывает скрытое поле «От:» и выдаёт полноценную ссылку на опасный сайт, переход по которой перенаправляет пользователей на вредоносные ресурсы.

Ранее авторы подали в суд на Apple за использование их книг для обучения искусственного интеллекта.