В России придумали, как отучить нейросети врать

Российские ученые из Университета Решетнева нашли способ бороться с «галлюцинациями» нейросетей. Так называют ситуации, когда искусственный интеллект уверенно выдает ложную или выдуманную информацию, сообщает РИА Новости.

Методика позволяет проверять ответы моделей в реальном времени. Система анализирует запросы, оценивает риск ошибки, присваивает уровень достоверности и предупреждает оператора, если данные вызывают сомнение. Разработку можно использовать в образовании, на портале «Госуслуги», в медицине и юриспруденции. Она не привязана к конкретной нейросети и легко настраивается под разные модели.

Ученые создали классификатор типичных ошибок и автоматизированную систему стресс-тестирования. Она сравнивает ответы с эталонными данными и рассчитывает точность. Прототип уже работает в режиме реального времени.

Ранее в новом клипе певец SHAMAN с помощью искусственного интеллекта заставил петь иноагентов.