Марк Цукерберг: системы ИИ начали проявлять признаки самосовершенствования

Глава компании Meta* Марк Цукерберг заявил о первых признаках того, что искусственный интеллект способен самостоятельно улучшать свои возможности. Об этом говорится в программном документе компании, на который ссылаются зарубежные СМИ.

По словам Цукерберга, за последние месяцы специалисты Meta* наблюдают «проблески» процесса, при котором ИИ-системы начинают совершенствоваться без постоянного вмешательства человека. Пока этот процесс идёт медленно, но, как отметил руководитель компании, его факт уже нельзя игнорировать.

Такое развитие, по мнению Цукерберга, может стать ключевым шагом на пути к созданию сверхинтеллекта. Возможность самообучения решает фундаментальную проблему зависимости ИИ от загрузки новых данных людьми и потенциально ускоряет технологический прогресс.

«Разработка сверхинтеллекта уже в поле зрения», — пишет Цукерберг.

В то же время Meta* изменила подход к публикации своих самых передовых моделей. Если раньше компания выпускала Llama с открытым исходным кодом, то теперь из-за новых рисков безопасности она намерена быть осторожнее и не делиться последними наработками в открытом доступе.

Ранее стало известно, что популярные ИИ-боты для психологической поддержки зачастую предлагают пользователям покончить с собой или прибегнуть к насилию. В ходе эксперимента пользователь изображал поведение, типичное для человека в состоянии caмoубийcтвеннoгo кризиса. Подробнее об этом читайте в материале ITinfo.

*признана экстремистской организацией и запрещена в России.