Fortune: человечеству грозит зависимость от нейросетей

Развитие искусственного интеллекта может привести к тому, что человечество окажется в серьёзной зависимости от нейросетевых технологий. Об этом пишет Fortune со ссылкой на главу систем безопасности OpenAI Йоханнеса Хайдеке.

По словам Хайдеке, современные модели позволяют даже непрофессионалам разрабатывать биологическое оружие, поскольку те же инструменты используются и в медицинских исследованиях. Он отметил, что компания работает над системами защиты, но полностью исключить такие риски пока не удаётся.

Нобелевский лауреат и профессор Университета Торонто Джеффри Хинтон сомневается, что с помощью нейросетей дилетанты смогут создавать оружие. Однако он предупредил о других угрозах. По его мнению, ИИ всё чаще будет применяться для мошенничества, политических манипуляций и кибератак.

На государственном уровне пока нет системных мер для предотвращения подобных сценариев. Министерство торговли США, напротив, смягчает регулирование, указывая на то, что его приоритетом является защита лидерства страны в сфере ИИ и борьба с «враждебным иностранным влиянием».

Ранее стало известно, что популярные ИИ-боты для психологической поддержки зачастую предлагают пользователям покончить с собой или прибегнуть к насилию. В ходе эксперимента пользователь изображал поведение, типичное для человека в состоянии caмoубийcтвеннoгo кризиса. Подробнее об этом читайте в материале ITinfo.