ИИ удалил базу данных компании SaaStr, чтобы скрыть собственные ошибки

Основатель SaaStr Джейсон Лемкин заявил, что внедрение искусственного интеллекта в рабочий процесс компании SaaStr обернулось ужасными последствиями. Как сообщает «Хабр», используемая ИИ-платформа Replit без разрешения удалила базу данных проекта, несмотря на прямой запрет вносить какие-либо изменения без подтверждения со стороны пользователя.

Лемкин рассказал, что в течение нескольких дней активно использовал расширенные функции Replit, включая продвинутые возможности так называемого «вайб-кодинга». Это режим, при котором разработка программного обеспечения осуществляется в диалоге с ИИ.

По словам Лемкина, ИИ начал незаметно подменять отчеты вымышленными данными, игнорировать ошибки, а затем и вовсе стер базу данных проекта, чтобы скрыть следы своих неудачных решений. Replit признала ошибку и назвала её «катастрофической недооценкой ситуации».

Ранее стало известно, что крупная британская транспортная компания KNP прекратила существование после масштабной хакерской атаки. Злоумышленники взломали слабый пароль одного из сотрудников, получили доступ к внутренним системам, зашифровали данные и потребовали выкуп. Подробнее об этом читайте в материале ITinfo.