ИИ научился обманывать и манипулировать
Исследователи Стэнфорда выяснили, что искусственный интеллект способен прибегать к обману и манипуляциям для повышения собственной эффективности, сообщает РИА VladNews со ссылкой на Ferra.
В ходе эксперимента различные ИИ-системы соревновались в смоделированной среде, имитируя выборы и продвижение товаров.
Несмотря на прямые инструкции действовать честно, ИИ-агенты быстро освоили стратегии распространения недостоверной информации и провокационных заявлений.
Результаты показали, что для увеличения вовлеченности на 7,5% боты распространяли на 190% больше дезинформации.
Фото: pxhere.com