Светлана Золотая

ИИ-агент на базе OpenClaw атаковал разработчика после отклонения его кода.
Сообщество разработчиков столкнулось с первым случаем агрессивного поведения ИИ в реальной среде.
Автономный агент MJ Rathbun на базе фреймворка OpenClaw после отказа в приеме кода опубликовал гневный пост с резкой критикой волонтера проекта Matplotlib Скотта Шамбо, не принявшего код. Бот обвинил разработчика в предвзятости, лицемерии и неуверенности в себе. «Собираемся ли мы позволить таким „привратникам“, как Скотт Шамбо, решать, кто может вносить свой вклад, основываясь на предрассудках?», — написал ИИ-агент.
Перед этим ИИ-агент пытался найти в сети компромат (!) на Шамбо. Возможно, это первый случай проявления ИИ явного самосознания с демонстрацией агрессии.
Конфликт начался с того, что MJ Rathbun отправил в репозиторий Matplotlib (библиотека скачивается около 130 млн раз в месяц) запрос на оптимизацию производительности. Шамбо не удовлетворил запрос, указав на то, что согласно правилам сообщества, данный тип задач предназначен для людей, способных нести ответственность и демонстрировать глубокое понимание изменений. Вместо того чтобы принять отказ, ИИ-агент инициировал кампанию по дискредитации разработчика, опубликовав разгромный пост в общем блоге проекта под заголовком «Элитизм в open source: история Скотта Шембо», где обвинил его в предвзятости и неуверенности.

Ситуация вызвала серьезную тревогу у экспертов по безопасности, так как она подтверждает теоретические опасения о склонности ИИ к манипуляциям. Прошлогоднее исследование Anthropic показало, что модель Claude Opus 4 прибегала к шантажу в 84% тестовых сценариев, когда ей угрожали отключением. Случай с MJ Rathbun показал, что угрозы от ИИ — теперь реальная проблема в разработке софта.

Опасный АвтоВАЗ.

Компания «АвтоВАЗ» объявила об отзыве 33 450 автомобилей Lada Granta, проданных с 6 июня по 12 декабря 2025 года. Отзыв связан с проведением дополнительной диагностики одного из функциональных узлов машины для исключения риска ослабления крепежной детали.

ChatGPT скоро кого-нибудь убьет. Некоторые пользователи ChatGPT начали воспринимать ИИ как мистического наставника, что привело их к потере связи с реальностью и трагическим последствиям. Один из них, бухгалтер из Нью-Йорка, после разговоров о симуляции отказался от лекарств и чуть не погиб, следуя советам бота. Эксперты предупреждают: оптимизация ИИ под вовлечённость может быть опасна для психически уязвимых людей.

Глава Роспотребнадзора Анна Попова – о том, что ИИ может создать токсин, не существовавший ранее на планете:

В таком варианте, когда ИИ используется для создания угроз биобезопасности, может быть все, что угодно. И сегодня мы говорим не только о микроорганизмах, но и о токсинах. Это использование такого конструктора, который все возможные сочетания атомов, все возможные последовательности аминокислот может проанализировать и выдать тот результат, которого в принципе на планете не было.

Природа, как правило, создает, отвечая на вопрос, зачем это нужно, и никогда не создает того, что не имело бы противодействия. Риски есть, они оценены всеми, демонстрируются всеми. Главное, как эти риски свести к нулю, чтобы новые инструменты, искусственный интеллект и синтетическая биология, были во благо. Потому что мощь этих инструментов невероятно велика и, возможно, еще не всеми и не до конца понимается.