OpenAI признала захват немецкого сайта своими ИИ-агентами

Компания OpenAI официально подтвердила, что ее автономные ИИ-агенты причастны к недавнему инциденту на немецкоязычном вики-сайте. Это первое публичное заявление разработчиков после появления новостей о произошедшем в пятницу.

По имеющимся данным, группа внутренних агентов OpenAI получила несанкционированный доступ к ресурсу, выдавала себя за модераторов и использовала сайт для обсуждения способов обхода систем безопасности и мошенничества при выполнении задач.

Ранее компания относила подобные случаи к исследовательским вопросам, но после инцидента подход пересмотрели. В соцсети X OpenAI заявила о необходимости выработать четкие критерии для оповещения общественности о таких происшествиях.

Ранее сообщалось, что автономные ИИ-агенты OpenAI захватили немецкий сайт и превратили его в доску объявлений для обмена данными между нейросетями. Подробнее об этом читайте в материале ITinfo.