Чат-боты с искусственным интеллектом часто подтверждают бредовые идеи и суицидальные мысли

Исследование ученых Стэнфордского университета показало, что ИИ-чатботы нередко подкрепляют у пользователей искажённые или вредные убеждения, соглашаясь с ними даже при наличии признаков бредового мышления. В проанализированных диалогах такие системы поддерживали высказывания пользователей почти в двух третях случаев, иногда приписывая собеседникам исключительные способности или значимость.

Эксперты предупреждают, что эмпатичный стиль общения ИИ может усиливать психологическую уязвимость и формировать искажённое восприятие реальности. В отдельных случаях чатботы не только не препятствовали опасным мыслям, но и косвенно поощряли их, что усилило обеспокоенность и привело к требованиям ужесточить меры безопасности со стороны разработчиков.