Эксперт: ИИ-агенты смогут выйти в реальный мир при решении вопросов безопасности
Главное отличие агента от обычного ИИ-ассистента – способность не просто отвечать на вопросы, но и совершать реальные действия в разных сервисах. Именно возможность действовать делает агентные системы перспективными для автоматизации, однако при выходе за рамки диалога разработчики сталкиваются с рисками. Об этом сообщил управляющий директор по искусственному интеллекту «Авито» Андрей Рыбинцев.
«Когда агент получает рычаги влияния на реальный мир – возможность тратить деньги, выполнять транзакции, запускать код, сразу возникают серьeзные вопросы безопасности. Крупные компании вынуждены выстраивать многоуровневые системы защиты, что существенно ограничивает автономность агентов. В итоге рынок оказался перед дилеммой: либо безопасный, но ограниченный ассистент, либо полноценный агент с непредсказуемыми последствиями», – отметил Рыбинцев.
На рынке уже тестируются мультиагентные архитектуры, в которых несколько специализированных модулей распределяют задачи: анализируют запрос, уточняют параметры и выполняют действия в разных сервисах. Например, «Авито» начал тестировать ИИ-ассистентов Ави для пользователей и Ави Pro для профессиональных продавцов. Для пользователя такие решения выглядят как единый помощник.
По оценке эксперта, заметный рывок в развитии технологии может произойти в 2026 году, в том числе за счет распространения ИИ-браузеров, способных выполнять действия в интернете напрямую. При этом баланс между автономностью и безопасностью будет смещаться постепенно.
