Не верь своим глазам и ушам: мошенники освоили нейросети
Голос знакомый, лицо знакомое. Близкий человек звонит или присылает видеосообщение, в котором просит помощи, как правило, финансовой. Как тут не поверить? Трудно. Но усомниться необходимо, как обманывают туляков с помощью дипфейков. Обсудим это с заместителем управляющего Тульским отделением Банка России Дмитрием Борискиным.
Давайте начнем с схемы. Вот как это выглядит? Как чаще всего обманывают мошенники людей с помощью дипфейков?
Схема, на самом деле, схема в принципе одна, есть несколько путей ее воплощения. То есть с помощью такого дипфейка, если в переводе, то есть это глубокий обман, вот так вот можно условно перевести. Человек получает сообщение, видео, аудио или еще какое-то от какого-то своего знакомого. И дальше уже начинается развитие событий, чтобы человек или перевел деньги кому-то или сообщил какие-нибудь персональные данные: реквизиты карты и так далее. Все начинается с какого-то входящего звонка или сообщения и скорее всего это будет сообщение от вашего известного контакта вам там с фотографии на значке контакта и дальше будет либо аудио, либо видео, какую-нибудь запись, кружочек, как сейчас популярно, в котором ваш знакомый может попросить помощи внезапно финансовой в связи с возникшими обстоятельствами. Может сообщить о том, что он попал в беду, например, в ДТП. Или он сейчас находится в больнице и срочно требуется какая-нибудь операция или покупка лекарств.
Или еще какая-то вот такая жизненная ситуация, в которой необходима ему помощь финансовая в основном, конечно, ну или вот еще какие-то могут быть придуманы схемы.
И человек, видя или слыша голосовое сообщение от близкого, от родного, от друга, не пытаясь немножко критически посмотреть на это все, он делает перевод или отдаёт деньги курьеру, который может приехать, или ещё какие-то вот такие операции, и теряет свои деньги.
Так как же усомниться? Мы привыкли общаться с помощью кружочков, голосовых сообщений. Это сейчас самый распространённый вид общения. Мы на ходу можем записать и даже можем не заметить, что там какой-то шум и так далее. То есть, как понять, что что-то идёт не так?
Мы можем разделить подход на два аспекта. Есть технический аспект. То есть, если внимательно посмотреть или послушать, то, скорее всего, мы можем найти, как их называют специалисты, какие-то артефакты. Например, во время голосового сообщения меняется тембральность, тональность, появляются или уходят шумы. Например, посреди слова мы слышим вдох. Вот посреди слова, во время выдоха мы не можем слышать вдох. Тем не менее, мы слышим. Меняется, например, какое-то окружающее шумы. То птички поют, то машины ездят. Если смотреть на видеообращение, ну, например, у человека могут быть непрорисованы зубы, да? То есть, ну, белая полоска во рту вместо отдельных зубов. У него может быть неестественный взгляд. То есть на разном уровне зрачки находиться. Может отсутствовать блеск в глазах, может человек там две минуты не мигать, к примеру, неестественное положение головы, или отсутствие каких-то микромимики, например, человек не то что не моргает, у него совершенно шевелятся одни губы, какие-то пятна могут быть или неестественные тени, может быть несоответствие пропорций, в общем-то много таких моментов.
Например, эмоциональный момент. Человек говорит, что он попал в беду, просит помочь ему, а у него достаточно спокойная такая равномерная речь без повышения, без понижения, без интонации, без крика, без взволнованности какой-то и так далее. Ну вот технические аспекты, если к ним присмотреться, ну, наверное, их можно обнаружить.
Потому что мошенникам, во-первых, уровень развития нейросетей сейчас тоже, он не достиг своего предела, они развиваются, и раз есть куда улучшаться дипфейком, значит, сейчас они не являются идеальными. И для того, чтобы создать качественную такую подделку, надо затратить много ресурсов. Даже если какие-то бесплатные нейросети или условно платные, не очень дорогие, все равно это надо потратить много времени, что не всегда для них оправдано.
То есть им, может быть, дешевле тысячи человек попробовать обмануть, чем одного, но качественно. Это зависит еще от того, какую информацию о вас удалось получить. Ну вот вы как лицо телеканала, в сети, наверное, есть очень много ваших видеоизображений, аудио.
Вот здесь я, наверное, должна повернуться в камеру и сказать, если я прошу у вас денег с помощью какого-то видеосообщения, пожалуйста, не верьте этому.
Мы подходим как раз ко второму аспекту. То есть технически можно сделать высококачественную подделку, которая будет действительно трудно отличима. Тем более все развивается. И через год, через два, через три технологии могут достичь такого уровня, когда мы не сможем, как не специалисты, без специализированных тестов, компьютерных программ, анализа какого-то специализированного, отличить.
Поэтому мы подходим к самому главному аспекту, психологическому, то есть как от этого защититься. И здесь, в принципе, борьба с таким мошенничеством ничем не отличается от, например, сообщений по СМС. Это же, в принципе, тот же канал связи вы получаете, якобы, от своего близкого человека, родственника, друга вы получаете от него какую-то информацию о том, что ему нужна ваша помощь.
Пост в соцсетях — это же та же самая схема. Что вы сделали, получив, например, увидев на стене друга в соцсетях сообщение о помощи? Логично было бы с ним связаться.
Да, позвонить, конечно.
Самому, то есть позвонить, чтобы инициатором были вы. Позвонил, узнал, что у тебя там случилось, как я тебе могу еще по-другому помочь. Может, задать наводящий вопрос.
А ты помнишь, мы с тобой позавчера были в такой-то кафешке? Ну, если уж такое – убедиться, что с той стороны действительно находится тот человек, который якобы вам звонит. Вот это, наверное, самый основной момент. Потому что технически, наверное, мы можем увидеть и на экране телефона тот номер, который принадлежит ему.
Это подмена номеров, она используется мошенниками уже давно, мы можем увидеть в кружочке контакта, особенно если этот контакт взломали его аватарку, мы можем услышать его голос, мы можем увидеть, нас должна насторожить сама ситуация.
То есть, несмотря на то, что человек пишет с аккаунта вашего знакомого, ну то есть одна и та же схема, перезвонить, попытаться связаться, задать какие-то наводящие вопросы, уточнить, что это конкретно он.
Да, да, да, вот особенно это бывает, ну вот если мы говорим про дипфейки, это может быть и родственники, да, это может быть какой-нибудь, например, руководитель, вышестоящий по работе. Вот такие случаи они сейчас достаточно распространены. От лица руководителя на человека выходят мошенники, представляются его руководителем, и обычно они в этом случае говорят, сейчас тебе позвонит кто-то из правоохранительных органов, Выполняя все его указания, я тебе даю все полномочия. Можешь уйти с работы, можешь еще там что-то, потому что там проверка, потому что там какие-то расследования и так далее
А потом дальше уже действуют мошенники, те, которые и голосом звонят. Точно так же это может быть получено сообщение от родственника, что кто-то попал в больницу, не дай Бог, или в ДТП, срочно нужны деньги и так далее.
Вот тебе реквизиты, у меня новая карта, я тебе потом все объясню. То есть в любом случае в такой ситуации надо вот суметь психологически побороть первый свой порыв помочь, и убедиться, что вы разговариваете с тем, с кем должны разговаривать.
Банк России придумал онлайн-игру, обучающую и очень смешную, если честно, онлайн-игру про дипфейки. Расскажите про нее, как она работает и кому будет интересна?
Это обучающая программа, в игровой форме она помогает не попасть под психологическое воздействие на уловки, создаваемые, в том числе, с помощью дипфейков. Там есть разделы, где можно прокачать свои технические навыки, о чем я говорил, как по картинке или по аудиозаписи можно понять, сфабрикована она, нейросеть постаралась или это реальный человек, там есть прям конкретные примеры, там можно выбрать, грубо говоря, между двумя изображениями, двумя видеозаписями и сказать, вот это вот настоящее, а это с таким же человеком, с таким же лицом, с таким же голосом, а вот это вот дипфейк.
Очень рекомендую, она в очень такой игровой спокойной форме, бесплатная полностью, там нет никакой рекламы и так далее, но позволит немножечко потренироваться в технических аспектах, ну и психологически тоже подготовиться к тому, что несмотря на картинку, несмотря на голос, это все-таки могут быть мошенники.
Ну и давайте резюмируем это. По-моему, главный вывод, что нейросети не остановятся в своем развитии, никому нельзя доверять. Есть ли какой-то еще вывод, который можно сделать из этой ситуации?
Как мы с вами неоднократно уже говорили, мошенники появились задолго до дипфейков, задолго до безналичных расчетов, задолго до телефонов, электронной почты и так далее. Они всегда используют, в принципе, одни и те же методы, соответственно, и методы противостояния им одни и те же. Не уверен? Положи трубку, позвони сам, перезвони, убедись, что действительно ты разговариваешь с тем человеком, с той организацией, позвонив в свой банк сам и так далее. То есть, эти все методы, они остаются психологически теми же самыми.