Нейросеть обучают принимать решения, как человек
Ученые пытаются построить нейросеть, которая принимала бы решения так же, как человек, но работа осложняется нехваткой данных о том, как мы на самом деле делаем это. Работа опубликована в Nature Human Behaviour.
Человек принимает порядка 35 тыс. решений каждый день: как безопасно пересечь дорогу, чем перекусить. Каждое решение включает оценку возможных вариантов, память о принятых в прошлом решениях, уверенность в своем выборе. Нередко бывает так, что один и тот же человек принимает разные решения в одних и тех же случаях в разное время. Нейросети работают по другому принципу, они принимают одни и те же решения каждый раз.
Большие языковые модели склонны к «галлюцинациям», когда им задают вопрос, на который они не знают ответ: они могут придумать что-то, не признавая своего вымысла. В отличие от них большинство людей в такой ситуации, вероятно, признают, что не знают ответа. По мнению ученых, создание более «человекообразной» нейросети может предотвратить подобное поведение.
Команда исследователей обучала свою нейросеть распознаванию написанных вручную цифр из набора данных. Сначала ее тренировали на исходном наборе, а после добавляли к цифрам различные шумы, что затрудняло распознание. Их нейросеть опиралась на два ключевых компонента: байесовскую нейронную сеть (BNN), использующую вероятности для принятия решений и процесс накопления доказательств для каждого выбора.
Полученные результаты сравнили с тестами, которые проводили на людях. Исследователи пришли к выводу, что уровень точности, время ответа у людей и у нейросети схожи.
Доктор психологии Технологического института Джорджии Фаршад Рафии отметил, что пока у ученых нет достаточных данных, потому до конца неизвестно, как люди повели бы себя с этими изображениями.
Источник