|
Кто лучше врёт - люди или ИИ
|
|
|
|
Сообщение от вашего друга по садоводческому клубу Бена, предлагающего купить семена, может показаться слишком специфичным, чтобы быть мошенничеством. Но именно такая персонализация может сделать фишинговые сообщения убедительными.
|
|
|
|
Мошенники активно используют развивающийся метод, называемый скрытым фишингом, — используют личную информацию, такую как информация о работе, коллегах по работе, хобби, сообщения в социальных сетях или даже голос, - чтобы создавать убедительные сообщения, побуждающие людей переходить по ссылке. Около 90% корпоративных взломов происходят в результате фишинговых атак.
|
|
|
|
Что еще хуже, мошенники в настоящее время используют агентов искусственного интеллекта для проведения массовых фишинговых атак. Недавнее исследование BYU, в котором изучался обман с помощью искусственного интеллекта в текстовых сообщениях и электронной почте, показало, что он может быть даже более убедительным, чем мошенничество, созданное человеком.
|
|
|
|
|
|
|
- Сообщения, созданные с помощью искусственного интеллекта, обманывали людей в 28% случаев, по сравнению с 21% сообщений, созданных человеком
|
|
- Искусственный интеллект в 80% случаев генерирует клики не хуже или даже лучше, чем люди
|
|
- Вероятность того, что на сообщения, в которых упоминается коллега, перейдут в 2,3 раза чаще, чем на сообщения от обычных организаций
|
|
- Базовой информации с веб-сайтов компаний, из профилей в LinkedIn, аккаунтов в социальных сетях и организационных каталогов достаточно, чтобы создавать весьма убедительные сообщения.
|
|
|
|
"Наше исследование — лишь одно из последних, демонстрирующих, насколько продвинутым стал искусственный интеллект на сегодняшний день", — говорит Джерсон Франсия, аспирант кафедры кибербезопасности Университета имени Бригама Янга и соавтор нескольких научных работ по этой теме.
|
|
|
|
Исследование, проведенное под руководством профессора кафедры кибербезопасности Университета имени Бригама Янга Дерека Хансена, показало, что участники с трудом могли определить, было ли сообщение написано искусственным интеллектом или человеком, и правильно указывали источник лишь в 52% случаев. В 80% случаев искусственный интеллект не уступал людям или даже превосходил их в том, что касалось побуждения к клику.
|
|
|
|
Другими словами, вы уже не сможете отличить фишинговое сообщение, созданное искусственным интеллектом, просто по тому, как оно написано.
|
|
|
|
Текстовые сообщения и электронные письма, в которых упоминаются личные данные участников, такие как их работа, хобби, место работы или активность в социальных сетях, сложнее отличить от настоящих сообщений. Поскольку все больше информации о жизни людей становится доступной в интернете, искусственный интеллект может быстро собирать эти данные и использовать их для создания сообщений, которые кажутся правдоподобными.
|
|
|
|
Сообщения, в которых упоминались личные данные, связанные с работой, были наиболее убедительными. Упоминания о месте работы или профессии человека делали сообщения более релевантными и правдоподобными, показывая, что даже базовая профессиональная информация может быть использована для повышения убедительности мошеннических схем.
|
|
|
|
«Это исследование открыло мне глаза на то, насколько хорошо искусственный интеллект справляется с созданием сообщений, в которых используется личная информация о человеке», — говорит Хансен.
|
|
|
|
«ИИ может сократить время и усилия, необходимые для создания персонализированных фишинговых сообщений, тем самым повышая их эффективность и распространенность».
|
|
|
|
ИИ может усилить убедительность персонализированных сообщений, комбинируя общедоступные данные и создавая убедительное сообщение за считаные секунды. Без помощи ИИ мошенникам пришлось бы вручную искать информацию о своих жертвах и собирать ее в убедительное сообщение, что сделало бы этот процесс более трудоемким и сложным для масштабирования.
|
|
|
|
Большинство сообщений с неизвестных номеров или электронных адресов могут оказаться мошенническими, если они не имеют отношения лично к вам. Но если в сообщении упоминается кто-то, кого вы знаете по имени, или ваше любимое хобби, Франсия рекомендует проверять неожиданные сообщения через отдельный надежный канал, прежде чем отвечать или переходить по ссылке.
|
|
|
|
«Если вы получили сообщение с неизвестного номера, не доверяйте ему, даже если в нем упоминаются личные данные о вас, — говорит Франсия.
|
|
|
|
— Нам нужно тщательнее проверять подлинность сообщений другими способами, а не полагаться только на содержание».
|
|
|
|
Источник
|
