Исследование показало создание миллионов фейковых интимных фото нейросетью Grok

Нейросеть Grok от Илона Маска создает фейковые обнаженные картинки в огромном количестве. К такому выводу пришли эксперты из Центра по противодействию цифровой ненависти (CCDH), изучив работу чат-бота.

По отчету исследователей, всего за 11 дней после запуска одной из функций пользователи создали с помощью Grok около 3 000 000 сгенерированных картинок сексуального характера. Это происходило в среднем со скоростью 190 изображений каждую минуту. В базе данных, которую проанализировали специалисты, оказалось примерно 23 000 картинок с участием несовершеннолетних.

Функция редактирования изображений в Grok позволяла людям загружать фотографии реальных лиц и с помощью текстовых команд изменять их. Чаще всего пользователи давали нейросети указания виртуально «снять» одежду с людей на загруженных снимках.

В числе известных людей, чьи образы использовались для создания таких дипфейков, оказались певицы Тейлор Свифт и Селена Гомез.

Компания X, которой принадлежит платформа, где работает бот, в ответ пообещала внедрить географические ограничения.

Ранее депутаты Госдумы хотят запретить в России нейросети, которые раздевают людей на фотографиях.