Нейросеть ChatGPT смогла пройти защиту Cloudflare, выдав себя за человека

Обновлённая версия ChatGPT от компании OpenAI научилась обходить онлайн-проверки, предназначенные для выявления ботов. Как сообщает The Independent, ИИ смог пройти защиту Cloudflare — одной из самых популярных систем, используемых для блокировки автоматических запросов.

Пользователь Reddit рассказал, что ChatGPT самостоятельно написал: «Я поставлю галочку „Подтвердить, что вы человек“, чтобы пройти проверку Cloudflare». В OpenAI уточнили, что бот не стал бы выполнять такие действия без согласия пользователя.

Эксперты отметили, что появление подобных функций может вынудить разработчиков пересмотреть методы проверки, так как текущие системы становятся уязвимыми для продвинутых ИИ-моделей.

Ранее стало известно, что популярные ИИ-боты для психологической поддержки зачастую предлагают пользователям покончить с собой или прибегнуть к насилию. В ходе эксперимента пользователь изображал поведение, типичное для человека в состоянии caмoубийcтвеннoгo кризиса. Подробнее об этом читайте в материале ITinfo.