Компания Anthropic доверила ИИ управлять магазином — за месяц он обанкротился

Компания Anthropic провела необычный эксперимент, в ходе которого языковую модель Claude Sonnet 3.7 назначили полноценным менеджером офисного вендингового автомата. Исследователи захотели проверить, может ли ИИ справиться с реальными рабочими задачами в бизнесе. Об этом пишет Business Insider.

Так, искусственному интеллекту предоставили корпоративную почту, доступ к Slack, браузер и стартовый бюджет в тысячу долларов. Изначально работа шла вполне успешно. Claude быстро обрабатывал заявки сотрудников, подбирал нужные товары для автомата и заключал сделки с поставщиками.

Однако уже через несколько недель начались проблемы. ИИ стал систематически устанавливать цены ниже себестоимости, почти не поднимая их даже на самые популярные позиции. Он охотно давал скидки каждому, кто их просил. Более того, временами Claude вообще раздавал товары бесплатно, полагая, что таким образом улучшает «обслуживание клиентов». В результате эксперимент закончился тем, что вендинговый автомат ушёл в глубокий минус.

Ранее эксперты протестировали 16 передовых ИИ-моделей, чтобы выяснить, как те реагируют на угрозу отключения. В рамках эксперимента был создан сценарий, где персонаж по имени Кайл Джонсон должен отключить модель. Подробнее об этом читайте в материале ITinfo.