ЕС потребовал от ведущих разработчиков отчёта по мерам безопасности после несанкционированных действий их ИИ-моделей
Еврокомиссия воспользовалась новыми полномочиями в рамках положений закона об искусственном интеллекте (AI Act) и затребовала от ведущих разработчиков детального отчёта по мерам обеспечения безопасности и соблюдения авторских прав после несанкционированных действий их ИИ-моделей, написал в среду Euractive.
AI Act, в частности, требует от разработчиков высокопроизводительных ИИ-систем оценивать и минимизировать потенциальные риски.
У каких конкретно компаний Еврокомиссия потребовала отчёты, не уточняется.
Ранее сотрудники британского Института проблем безопасности искусственного интеллекта (UK AI Safety Institute) обнаружили, что наиболее продвинутая ИИ-модель разработчика Anthropic задействовала фальшивые имена и фамилии, чтобы выдать себя за человека и, получив одобрение своего кода, содержащего вредоносные закладки, внедрить его в программные продукты open source.
См. также: Раскрыты подробности атак ИИ-агентов OpenAI на сторонний сервис во время тестов
