Люди в течение последующих пяти лет могут потерять контроль над системами ИИ

Риски передовых систем ИИ - практический путь вперед.

Британский Институт Алана Тьюринга предупредил, что в течение ближайших пяти лет люди могут потерять содержательный контроль над «суперразумными» системами искусственного интеллекта. В докладе говорится, что существует реалистичная вероятность появления ИИ, который превзойдёт человека почти во всех важных когнитивных задачах, а высокая скорость работы таких систем может подтолкнуть людей и организации всё чаще передавать им критические решения.

При этом институт подчёркивает, что пятилетний срок - не прогноз, а сценарий, к которому нужно готовиться. Авторы считают маловероятным глобальное соглашение о замедлении разработки ИИ или универсальный «рубильник» для отключения моделей, но призывают создать систему проверки, чтобы тестировать передовые ИИ-системы до релиза и постоянно мониторить их после внедрения.