Светлана Золотая

ChatGPT скоро кого-нибудь убьет. Некоторые пользователи ChatGPT начали воспринимать ИИ как мистического наставника, что привело их к потере связи с реальностью и трагическим последствиям. Один из них, бухгалтер из Нью-Йорка, после разговоров о симуляции отказался от лекарств и чуть не погиб, следуя советам бота. Эксперты предупреждают: оптимизация ИИ под вовлечённость может быть опасна для психически уязвимых людей.

Глава Роспотребнадзора Анна Попова – о том, что ИИ может создать токсин, не существовавший ранее на планете:

В таком варианте, когда ИИ используется для создания угроз биобезопасности, может быть все, что угодно. И сегодня мы говорим не только о микроорганизмах, но и о токсинах. Это использование такого конструктора, который все возможные сочетания атомов, все возможные последовательности аминокислот может проанализировать и выдать тот результат, которого в принципе на планете не было.

Природа, как правило, создает, отвечая на вопрос, зачем это нужно, и никогда не создает того, что не имело бы противодействия. Риски есть, они оценены всеми, демонстрируются всеми. Главное, как эти риски свести к нулю, чтобы новые инструменты, искусственный интеллект и синтетическая биология, были во благо. Потому что мощь этих инструментов невероятно велика и, возможно, еще не всеми и не до конца понимается.