​Искусственный интеллект может привести к гибели человечества в течение 10 лет

О том, что ИИ может стать угрозой для человечества уже в обозримом будуще, предупреждают 95 ученых и один из основателей глубокого обучения, Йошуа Бенджио: они представили большой доклад по безопасности. Среди рисков — утрата контроля над машинами, их способность действовать скрытно и угроза от уже распространенных открытых копий моделей.

ИИ способен выполнять сложные задачи, но одновременно становится все более независимым. Если задать системе цель, например, «принести кофе», она может устранить все преграды на пути к выполнению команды, включая людей.

"Риски заключаются в том, что ИИ действует в скрытой манере, используя обман", – утверждает Йошуа Бенджио.

Модели ИИ с открытым кодом уже доступны миллионам пользователей по всему миру. Это делает невозможным их полный отзыв или обновление в случае ошибок. Если такие системы попадут в руки злоумышленников, последствия могут быть непредсказуемыми. Примеры уже есть: модели ИИ используют для кибератак и создания дезинформации.

Ученые предлагают сосредоточиться на разработке безопасных систем, а не только на повышении их интеллекта. Сейчас же, по словам авторов доклада, большинство ресурсов направлено на улучшение возможностей ИИ, а вопросы безопасности остаются второстепенными.

Авторы доклада уверены: будущее ИИ зависит от решений обществ и правительств. Управление рисками требует не только технических мер, но и международного сотрудничества, строгих стандартов и прозрачности со стороны разработчиков.