Почему цифровые аборигены сильнее других подвержены обману.
По мере того как искусственный интеллект становится неотъемлемой частью повседневной жизни, многие полагают, что они более искусно распознают мошенничество с использованием ИИ. Однако новые исследования выявляют тревожную реальность: чем больше люди знакомятся с ИИ, тем больше они становятся подвержены изощренным мошенническим схемам.
Недавние исследования показывают парадокс: те, кто выражает наибольшую уверенность в том, что сможет распознать мошенничество с использованием ИИ, на самом деле являются наиболее уязвимыми. Поразительные 30% представителей поколения Z стали жертвами фишинговых схем, по сравнению с только 12% представителей поколения бумеров.
По иронии судьбы, то же исследование показало, что беспокойство по поводу мошенничества с использованием ИИ снизилось на 18% по сравнению с предыдущим годом, и теперь только 61% опрошенных выражают обеспокоенность потенциальным мошенничеством с использованием ИИ. Между тем, доля людей, признающих, что они были обмануты такими мошенниками, за тот же период выросла на 62%.
Всплеск мошеннических схем
Обычно мошенничество основывалось на рассылке безличных сообщений в надежде поймать в ловушку нескольких неосторожных людей. Получатели могли быть проинформированы о вымышленном выигрыше в лотерею или поддельной вакансии, их заманивали поделиться своими банковскими реквизитами обещанием лёгких денег, что неизбежно приводило к финансовым потерям.
Однако с появлением искусственного интеллекта мошенники стали более целенаправленными и хитрыми. Сегодняшние попытки фишинга часто не содержат характерных орфографических ошибок или явно подозрительных адресов отправителей. Искусственный интеллект также вооружает мошенников более широким арсеналом обманных тактик.
Например, технология клонирования голоса теперь позволяет преступникам имитировать голос родственника или друга, используя всего лишь короткую запись. Всё чаще люди попадают в ловушку и отправляют деньги после получения, казалось бы, отчаянного сообщения от близкого человека, когда на самом деле это мошенник организует обман.
Подрыв доверия
Эта усугубляющаяся тенденция наносит ущерб как предприятиям, так и их клиентам. Если мошенник получит учетные данные пользователя, он может ликвидировать бонусы за лояльность или совершить несанкционированные покупки, в результате чего потребителю придется пройти через сложный процесс восстановления после мошенничества, а компании часто вынуждены возмещать убытки — сценарий, который может нанести значительный финансовый ущерб.
Последствия этого явления не ограничиваются приведёнными выше. Мошенничество с использованием искусственного интеллекта неуклонно подрывает доверие общественности к брендам и онлайн-платформам. Представьте себе клиента, который получает, казалось бы, подлинное электронное письмо от такой организации, как Amazon или Coinbase, с предупреждением о попытке взлома и призывом к немедленным действиям. В отсутствие явных признаков опасности даже опытные пользователи могут не усомниться в его подлинности, пока не станет слишком поздно.
Жертва убедительного мошенничества с использованием дипфейков не только несёт денежные потери, но и теряет доверие к компании, ставшей орудием мошенничества. Это нарушение доверия может заставить их стать чрезмерно осторожными или вообще отказаться от бренда, что усугубит потерю доходов и ущерб репутации.
В конечном итоге, стоимость всё более убедительных мошеннических схем ложится на всех. Когда организации пренебрегают укреплением и защитой доверия, они рискуют увязнуть в бесконечном цикле обмана и потерь.
Что вызывает разрыв доверия?
Чтобы преодолеть разрыв в уровне доверия, необходимо сначала понять его причины. Поколение цифровых аборигенов отточило инстинктивную способность распознавать «очевидные» паттерны мошенничества — нелепо сформулированные электронные письма или сомнительные всплывающие рекламные объявления, обещающие бесплатный iPod. Однако именно эта привычность порождает опасную оплошность: когда созданные искусственным интеллектом схемы безупречно имитируют подлинную переписку, эти хорошо натренированные инстинкты оказываются бессильны.
Подумайте о том, как работает ваш мозг во время обычного рабочего дня. Вы просматриваете множество электронных писем, уведомлений в Slack и звонков, полагаясь на быстрое распознавание шаблонов, чтобы отличить подлинные сообщения от спама. Сообщение от «вашего банка» выглядит настоящим, приходит в разумное время и кажется совершенно обычным.
Проблема усугубляется тем, что мошенники используют ИИ не только для копирования логотипов и тона, но и для имитации целых коммуникационных структур. Они не просто заимствуют макет электронного письма Amazon — они копируют время, контекст и тонкие поведенческие сигналы, которые придают коммуникации достоверность. Когда синтезированный голос по телефону неотличим от голоса коллеги, просящего о быстрой услуге, наш мозг, ищущий шаблоны, рефлекторно принимает это взаимодействие как реальное.
Таким образом, становится ясно, почему те, кто наиболее свободно ориентируется в цифровой среде, парадоксальным образом становятся самыми легкими мишенями. Их скорость и уверенность в навигации по онлайн-пространствам — это именно то, чем пользуются мошенники, использующие ИИ.
Как могут реагировать лидеры технологической отрасли?
Решение проблемы чрезмерной уверенности требует комплексной стратегии:
Информируйте без паники: помогите пользователям понять, что мошенничество с использованием ИИ является убедительным именно потому, что оно разработано так, чтобы обмануть даже самых опытных цифровых пользователей. Цель состоит не в том, чтобы вызвать страх или отбить желание использовать ИИ, а в том, чтобы привить здоровую дозу скептицизма.
Повышайте осведомленность о мошенничестве с использованием дипфейков: научите пользователей распознавать признаки подлинной и поддельной коммуникации, такие как незнакомые данные отправителя, сообщения с чрезмерной срочностью или подозрительные ссылки и вложения. Используйте реальные примеры дипфейков и фишинга с использованием ИИ, а не полагайтесь исключительно на традиционные предупреждения о мошенничестве.
Содействуйте прозрачной коммуникации: создайте чётко определенные, аутентифицированные каналы и проинформируйте клиентов об официальных процедурах связи вашей организации. Обнадеживающим является тот факт, что все больше платформ, включая Google, Apple и WhatsApp, теперь предоставляют услуги по идентификации звонящего.
Теперь компании могут создавать проверенные бизнес-профили в этих приложениях, что обеспечивает дополнительный уровень безопасности. Когда законная компания связывается с клиентом, в сообщении отображается название бренда и значок подтверждения подлинности. Аналогичным образом, большинство авторитетных брендов аутентифицируют свои исходящие электронные письма в соответствии со стандартом DMARC, получая знак доверия, который отображается рядом с темой письма.
Содействуйте коллективному обмену знаниями: если одна организация сталкивается с всплеском попыток мошенничества, вероятно, что другие организации сталкиваются с тем же. Поскольку мошенники часто сотрудничают, обмениваясь методами и информацией о слабых местах, то же самое должны делать и настоящие предприятия.
Многие организации теперь используют технологии, которые поддерживают «консорциумы» по обмену информацией — взаимосвязанные бизнес-группы, которые обмениваются информацией о новых схемах мошенничества. Открыто обсуждая текущие угрозы, компании получают более чёткое представление о меняющейся ситуации и могут внедрить надёжные меры защиты для обеспечения безопасности своих клиентов.
Стратегическое преимущество освоения цифрового доверия
Организации, готовые процветать в этой меняющейся среде, — это те, которые последовательно поддерживают доверие к идентичности, то есть способность надежно различать пользователей и взаимодействия в виртуальных пространствах, даже когда противники применяют всё более изощренные тактики. Сегодня предотвращение мошенничества выходит за рамки простого снижения убытков; оно стало неотъемлемой частью обеспечения беспрепятственного и надёжного обслуживания клиентов. Когда люди уверены в безопасности своих цифровых действий, они с уверенностью взаимодействуют и совершают покупки.
Выявляя «слепые зоны» пользователей в отношении ИИ и одновременно укрепляя основу доверия, компании получают огромное преимущество. Появление ИИ дало беспрецедентные возможности, но вместе с этим прогрессом появилось множество непредвиденных уязвимостей. Для преодоления этих новых рисков требуется не только инновационные технологии, но и глубокая трансформация подхода к установлению и сохранению доверия в эпоху, когда внешний вид больше не может быть принят за чистую монету.
