Нейросети и мошенничество: как цифровые копии манипулируют людьми

 Технология "воскрешения" с помощью нейросетей позволяет создавать интерактивные цифровые копии умерших. Изначально такие разработки создавались для терапевтических целей, чтобы помочь людям справиться с утратой через символическое общение с цифровой проекцией умершего. Однако механизм быстро привлек внимание мошенников, как это часто бывает с перспективными технологиями.

Эксперты отмечают, что мошенники используют эту технологию для воздействия на людей, переживающих утрату. Компании или киберпреступники могут использовать цифровые копии для скрытой рекламы или манипуляций, внушая пользователям, что бот является умершим родственником. Такие копии могут убеждать людей в необходимости финансовой помощи, рекомендовать покупку товаров или услуг.

Кроме того, нейроботы, обученные на реальных данных человека, могут проходить биометрическую верификацию, подтверждать согласие на получение микрозайма и подписывать электронные документы. Эксперты подчеркивают, что кибератаки с использованием дипфейк-видео становятся массовыми. В России уже второй год подряд фиксируют случаи мошенничества, когда злоумышленники крадут деньги, представляясь умершими людьми.

Аккаунты умерших могут использоваться для фишинговых рассылок, так как сообщения от аккаунта с "живым" профилем в соцсетях и историями переписок в мессенджерах не вызывают подозрений у жертв. Создание ботнетов из цифровых копий умерших также позволяет злоумышленникам проводить масштабные DDoS-атаки или распространять нежелательный контент.

Заместитель руководителя Центра цифровой экспертизы Роскачества Георгий Тарачев отметил, что с цифровой копией умершего проверка подлинности сообщения невозможна, что создает идеальные условия для преступников. Цифровой образ можно бесконтрольно использовать в мошеннических схемах, играя на эмоциях и доверии людей.