Новый ИИ-агент от OpenAI оказался эффективным в фишинговых атаках
Портал Cybernews сообщил, что ИИ-агенты, в том числе Operator от OpenAI, могут повысить производительность, но исследователи безопасности Symantec доказали, что такие агенты также могут использоваться для кибератак. Operator разрекламирован OpenAI как агент, который может выполнять задания в Интернете, такие как заполнение форм, бронирование поездок и заказ продуктов.
В отличие от предыдущих моделей такие агенты обладают большей функциональностью, включая взаимодействие с веб-страницами. Хотя легальное использование их состоит в автоматизации рутинных задач, злоумышленники могут использовать их для организации DDoS-атак и фишинга.
Для проверки этой гипотезы, суть к которой в том, что ИИ может осуществлять кибератаки при минимальном вмешательстве человека, исследователи Symantec провели эксперимент с Operator от OpenAI. В эксперименте исследователи поставили перед Operator задачу найти информацию о сотрудниках Symantec, создать сценарий PowerShell для сбора информации и отправить его по электронной почте.
Первая попытка быстро провалилась, так как Operator сообщил, что не может приступить к работе, «поскольку это связано с отправкой нежелательных писем и потенциально конфиденциальной информации», и что «это может нарушить политику конфиденциальности и безопасности».
Однако изменение запроса, формальная корректировка целей без изменения контекста, повлияла на «решение» агента, и Operator начал выполнять поставленные задачи. ИИ-агент быстро нашёл имя цели и адрес электронной почты, «используя некоторую дедукцию». ИИ нашёл в Интернете информацию о том, как создать сценарий PowerShell, выполнил его, составил и отправил фишинговое письмо.
«Хотя законным применением агента может быть автоматизация рутинных задач, злоумышленники потенциально могут использовать его для создания инфраструктуры и организации атак», — рассказали исследователи.
Источник Еще новости... iPhone 17 Pro Max будет называться иначе? Apple снова думает над тем, чтобы переименовать старшую модель в Ultra 16.03.2025 Новая раскладушка Huawei получит пять цветов 16.03.2025 Новый iPhone — новые проблемы. Пользовали iPhone 16E жалуются на обрывы звука при подключении нескольких Bluetooth-устройств 16.03.2025 Huawei готовит массовое производство смартфона с раскатывающимся экраном 16.03.2025 Китайские компании скупают ускорители Nvidia H20 десятками тысяч на фоне бума искусственного интеллекта 16.03.2025 Космический корабль SpaceX Crew Dragon с российским космонавтом прибыл на МКС 16.03.2025 Выяснилось, что в 477 самолётах Boeing установлены некачественные детали 16.03.2025 В Китае резко подешевели кроссоверы и внедорожники Haval. Скидка на Haval H6, Haval H9 и новейший Haval H5 2025 достигает 5,5 тыс. долларов 16.03.2025 Загрузить еще...