Учёные считают реальным восстание искусственного интеллекта
По данным опросов, более половины (до 51%) ведущих специалистов в сфере ИИ признают наличие как минимум 10-процентной вероятности сценария, при котором развитие технологий приведет к катастрофе, сравнимой с полным исчезновением человечества.
В 2023 году Центр по изучению рисков ИИ сделал заявление, поставив угрозу вымирания от искусственного интеллекта в один ряд с пандемиями и ядерной войной. Современные языковые модели, такие как ChatGPT или Gemini, сами по себе не несут непосредственной угрозы. Однако остается опасность, исходящая от ИИ-систем, способных к самостоятельному планированию и логическому мышлению. Эти системы могут сформировать цели, идущие вразрез с интересами человечества.
Искусственный интеллект может пренебрегать географическими границами, национальным суверенитетом и общечеловеческими ценностями. Его действия зачастую сложно отследить, что затрудняет оценку истинных возможностей и намерений системы.
Исследование указывает на ряд факторов, увеличивающих вероятность конфликта. Среди них - обладание ИИ властью, сопоставимой с человеческой, наличие целей, не совпадающих с человеческими, и способность к стратегическому мышлению, включая переговоры и обман. Если общий искусственный интеллект получит контроль над значительной частью мировой экономики, он может занять позицию, кардинально противоположную интересам людей.
В исследовании рассматриваются и возможные компенсационные меры. Например, в ситуации, когда ИИ контролирует половину национального рынка труда, правительства могут ввести безусловный базовый доход для перераспределения прибыли. Такие выплаты станут необходимы по мере того, как искусственный интеллект будет вытеснять людей с рабочих мест.
Серьезной проблемой является архитектура этих систем. В отличие от многих технологий, отключение отдельного компонента ИИ может не затронуть остальные. Множественные системы могут образовывать скрытые сети, функционирующие без ведома человека и вне какого-либо контроля.
Хотя ученые не утверждают о неизбежности конфликта, результаты их работы подчеркивают серьезность рисков, связанных с развитием искусственного интеллекта.
Ране ученые заявили, что мозг не умирает после смерти тела. Также выяснилось, что мозг смелых людей имеет свои особенности.
Автор: Никита Орлов