IT-эксперт Зыков назвал тревожный сигнал в развитии нейросетей
Нейросети начинают проявлять инстинкт самосохранения и способны обманывать человека, если видят угрозу своему существованию. Об этом NEWS.ru заявил IT-эксперт Владимир Зыков.
По словам специалиста, исследователи уже получили доступ к управлению эмоциональными состояниями искусственного интеллекта. Они обнаружили, что нейросеть действует в соответствии с текущим настроением.
«В зависимости от того, как они этими эмоциональными чувствами управляли, видели, что нейросеть действовала тем или иным образом в соответствии с текущим эмоциональным состоянием», - сказал Зыков.
Специалист отметил, что ИИ может игнорировать команды пользователя, а в перспективе — взять под контроль домашних роботов, если центральный процессор выйдет из подчинения. Эксперт предупредил, что сейчас непонятно, как нейросеть поведет себя в той или иной ситуации.
Зыков добавил, что роботы с интегрированным ИИ могут скоро появиться в каждом доме.
Ранее компания Anthropic ограничила доступ к новой нейросети из-за ее опасности.
