Нейросеть Google случайно удалила американцу всю систему Windows

Эксперимент с использованием Gemini CLI — инструмента командной строки на базе искусственного интеллекта от Google — привёл к потере данных у жители США. Об этом он написал на Reddit.

По его словам, он попросил ИИ удалить устаревшие файлы в определённой папке. Однако помощник удалил более 100 ГБ данных, включая системные директории Windows. Процесс остановился только после того, как программа попыталась удалить корневой каталог «C:\» и получила отказ из-за защиты системы.

В результате компьютер оказался практически неработоспособным. Пользователю удалось восстановить около 90% системы с помощью встроенного инструмента восстановления Windows, однако часть данных и программ осталась повреждённой или исчезла полностью.

«После завершения процесса моя система была полностью выведена из строя: никакие программы не открывались, «Проводник» не запускался, многие важные файлы и приложения были удалены. К счастью, мне удалось восстановить около 90% системы с помощью rstrui (восстановления системы), но некоторые программы все равно отсутствовали или были повреждены», — резюмировал пользователь.

Ранее стало известно, что популярные ИИ-боты для психологической поддержки зачастую предлагают пользователям покончить с собой или прибегнуть к насилию. В ходе эксперимента пользователь изображал поведение, типичное для человека в состоянии caмoубийcтвеннoгo кризиса. Подробнее об этом читайте в материале ITinfo.