Нейросети получат доступ к перепискам в мессенджерах

В популярных мессенджерах, включая WhatsApp, началось тестирование функции подключения сторонних ИИ-агентов, которые смогут общаться с пользователем прямо внутри диалогов. К одной учетной записи можно привязать до пяти помощников, создав для каждого отдельный чат.

По данным разработчиков, агенты видят только те сообщения и файлы, которые адресованы непосредственно им, а доступ к остальным перепискам, контактам и медиа закрыт. При этом переписка с ними не защищена сквозным шифрованием, а добавлять их в группы пока нельзя — функция доступна части пользователей на Android.

Между тем специалисты по кибербезопасности предупреждают о рисках. Научный сотрудник Университета ИТМО Николай Еритенко пояснил, что ИИ-агент, в отличие от обычного бота, сам планирует действия и вызывает внешние сервисы, поэтому текст из файла может быть воспринят как команда — это создает уязвимость.

В свою очередь эксперт AppSec Solutions Юрий Шабалин указал на главную угрозу — промпт-инъекции, когда злоумышленник присылает сообщение со скрытой командой, и агент с правами на отправку выполняет ее.

Ранее психолог Елена Шпагина рассказала, почему россияне устают от искусственного интеллекта. Подробнее об этом читайте в материале ITinfo.