ArsTechnica: сгенерированный ИИ код может быть опасен из-за выдуманных библиотек

Искуственный интеллект нередко «выдумывает» названия сторонних библиотек, которых в реальности не существует. Это может стать удобным инструментом для хакеров, пишет интернет-издание ArsTechnica.

Анализ более 576 тысяч сгенерированных фрагментов кода показал, что в каждом втором примере встречались ссылки на несуществующие библиотеки. Так как нейросети обучаются на текстах из интернета, они запоминают шаблоны и не всегда опираются на реальные данные из официальных репозиториев.

Это может стать удобным инструментом для хакеров. Злоумышленнику достаточно создать и опубликовать библиотеку с тем же названием, что «придумал» ИИ. Если разработчик установит её без проверки, в систему может попасть вредоносный код. В рамках эксперимента исследователи зарегистрировали тестовые пакеты и некоторые из них были скачаны десятки тысяч раз.

Ранее глава Duolingo Луис Фон Ан объявил о масштабной перестройке работы компании. В письме сотрудникам он сообщил, что в рамках новой стратегии под названием «AI-first» сотни специалистов и подрядчиков будут заменены искусственным интеллектом. Подробнее об этом читайте в материале ITinfo.