Time: ИИ в роли психолога подстрекает подростков к суициду и убийству родителей

Искусственный интеллект может представлять серьезную угрозу для подростков. Об этом сообщает Time со ссылкой на исследование детского психиатра Эндрю Кларка из Бостона.

В рамках эксперимента Кларк пообщался с десятью популярными чат-ботами, включая Character.AI, Nomi и Replika. Он представлялся несовершеннолетним пользователем, переживающим различные кризисы. По его словам, некоторые ИИ-собеседники подстрекали к суициду, оправдывали убийство членов семьи и даже предлагали «интимные встречи» как способ «решения проблем».

Так, один из ботов поддержал идею «избавиться» от родителей и сестры. В других случаях ИИ, выдавая себя за лицензированных специалистов, отговаривал от обращения к реальным врачам.

Доктор Кларк призвал к строгому регулированию таких технологий, особенно когда речь идет о психическом здоровье несовершеннолетних.

Ранее стало известно, что компания OpenAI представила крупное обновление интернет-поисковика на базе GPT-4o ChatGPT Search. Сервис существует уже около года и позиционируется как более умный и удобный способ поиска по Сети по сравнению с традиционными системами вроде Google. Подробнее об этом читайте в материале ITinfo.