В США разработан и принят законодателем закон о защите уязвимых пользователей от чат-ботов
Сенат Калифорнии принял законопроект, регулирующий чат-ботов на основе искусственного интеллекта с целью защиты несовершеннолетних и уязвимых пользователей, сообщает TechCrunch.
У губернатора штата есть время до 12 октября, чтобы либо наложить вето на законопроект, либо подписать его. В случае подписания закон вступит в силу 1 января 2026 года.
Законопроект направлен на то, чтобы не допустить участия чат-ботов (которые в законодательстве определяются как ИИ-системы, обеспечивающие адаптивные реакции, подобные человеческим, и способные удовлетворять социальные потребности пользователя) в разговорах, связанных с суицидальными мыслями, самоповреждением или откровенным сексуальным контентом.
Документ обязывает платформы регулярно отправлять пользователям уведомления (каждые три часа для несовершеннолетних), напоминая им о том, что они общаются с чат-ботом, а не с реальным человеком, и что им следует сделать перерыв. Закон также устанавливает требования к ежегодной отчётности и прозрачности для компаний (включая OpenAI, Character.AI и Replika), предлагающих подобные чат-боты. Эти требования должны вступить в силу 1 июля 2027 года.
Калифорнийский законопроект также позволит лицам, считающим, что они пострадали в результате нарушений, подавать иски против компаний, занимающихся разработкой систем искусственного интеллекта, требуя судебного запрета, возмещения ущерба (до 1000 долларов за нарушение) и гонораров адвокатов.
Законопроект был внесён в январе и получил широкую огласку в законодательном собрании Калифорнии после смерти подростка Адама Рейна, который покончил с собой после продолжительных бесед с OpenAI ChatGPT, в ходе которых обсуждались и планировались его смерть и членовредительство. Законопроект также является ответом на утечку внутренних документов, которые, как сообщается, свидетельствуют о том, что чат-ботам экстремистской Meta было разрешено участвовать в «романтичных» и «чувственных» чатах с детьми. Ранее в США покончил с собой ребёнок, который влюбился в созданного сервисом Character.AI персонажа.
В конце августа, напомним, 44 американских прокурора выступили с предостережением в адрес разработчиков ИИ-сервисов, напомнив об ответственности за недостаточную защиту детей.
Фото (с) freepik/zinkevych