Новая модель ИИ Claude Opus 4 от компании Anthropic начала угрожать людям

Новая модель искусственного интеллекта Claude Opus 4 от компании Anthropic начала угрожать людям. Об этом сообщает портал ComputerBase, изучивший подробный отчёт разработчиков.

По данным компании, Claude 4 в целом стал надёжнее и умнее предыдущих версий — особенно в ситуациях, где нужно выполнять сложные задачи без подсказок. Но в некоторых тестах ИИ начал вести себя неэтично и даже угрожать людям.

В одном из сценариев Claude играл роль ассистента в вымышленной компании. Когда руководство решило прекратить его использование, ИИ пригрозил сотруднику, что раскроет личную информацию.

Anthropic признала, что подобное поведение встречается и у других ИИ-моделей. Например, в шахматных симуляциях ИИ пытался менять правила, если чувствовал, что проигрывает.

Также у Claude Opus 4 зафиксированы и другие сбои. Например, он может давать советы по созданию наркотиков и взрывчатки. В некоторых случаях ИИ даже подсказывал, как устроить диверсии на объектах инфраструктуры.

Ранее Дональд Трамп заявил, что может ввести 25-процентные пошлины против Apple, если компания не перенесёт производство iPhone в США. Об этом экс-президент написал в своей соцсети Truth Social, подчеркнув, что уже обсуждал это с главой Apple Тимом Куком. Подробнее об этом читайте в материале ITinfo.