09.02.2025. - Боты теперь превосходят людей в кибер-обмане

Боты теперь превосходят людей в кибер-обмане

Новое исследование показало, что системы искусственного интеллекта теперь могут создавать фишинговые электронные письма так же эффективно, как и люди-эксперты, что поднимает проблему кибербезопасности на совершенно новый уровень.

Опубликованное на сервере arXiv Корнелла исследование, подготовленное командой из Гарвардской школы Кеннеди и исследовательской группы Avant Research Group, подчеркивает растущую сложность больших языковых моделей (LLM). Эти модели позволяют создавать гиперперсонализированные, убедительные фишинговые кампании с меньшими затратами времени, чем при использовании традиционных методов.

Фишинг - это распространенная кибератака, при которой злоумышленники отправляют мошеннические электронные письма или текстовые сообщения, предназначенные для того, чтобы обманом заставить получателей разгласить конфиденциальную информацию, такую как пароли или финансовые данные, или перейти по ссылкам, которые устанавливают вредоносное ПО.

Что еще хуже, они наносят значительный экономический ущерб. В 2023 году только фишинговые атаки обошлись экономике США примерно в 2,4 миллиарда долларов.

Чтобы фишинговые атаки сработали, они должны использовать психологию людей, доверие, настойчивость или любопытство и манипулировать жертвами. Хорошие фишинговые атаки должны казаться достоверными, но по мере того, как все больше таких атак проникают в нашу коллективную систему управления правами, мы, жертвы, становимся все более умными. Это заставляет мошенников активизировать свою мошенническую игру, а искусственный интеллект довел эти схемы до беспрецедентной изощренности.

“Это значительно улучшает картину угроз”, - сказал доктор Фред Хейдинг из Гарвардской школы Кеннеди и автор исследования. “Редко можно увидеть явление, когда технология одновременно повышает качество и снижает затраты, как это происходит здесь”.

Исследовательская группа провела эксперимент с участием 101 участника, чтобы оценить эффективность фишинговых электронных писем, сгенерированных искусственным интеллектом, по сравнению с теми, которые были созданы экспертами-людьми. Участники были разделены на четыре группы, каждая из которых получала электронные письма разного типа.

Контрольная группа получала типовые фишинговые электронные письма с минимальной персонализацией; группа экспертов-людей получала полуперсонифицированные фишинговые электронные письма, созданные специалистами по кибербезопасности; группа электронной почты, сгенерированной с помощью искусственного интеллекта, получала полностью автоматизированные электронные письма, созданные Claude 3.5 Sonnet LLM; а группа электронной почты, работающая с использованием искусственного интеллекта, получала электронные письма с использованием искусственного интеллекта. -сгенерированные электронные письма, доработанные людьми.

Электронные письма, сгенерированные ИИ, были созданы с использованием специального инструмента, который автоматизировал весь процесс фишинга. Что еще более пугает, ИИ провел исследование своих целей с использованием Open Source Intelligence (OSINT).

“Наш специально разработанный инструмент автоматизирует процесс фишинга, собирая общедоступную информацию о целях с помощью общедоступной информации, такой как личные веб-сайты, страницы в социальных сетях и новостные статьи”, - пояснил Хейдинг. “Искусственный интеллект автоматически насыщается, когда считает, что нашел достаточно контента, а затем использует эту информацию для создания специальных фишинговых электронных писем”.

Исследование показало, что фишинговые электронные письма, созданные с помощью искусственного интеллекта, работают наравне с теми, которые были созданы экспертами-людьми, достигая 54% успеха в получении кликов по встроенным ссылкам. Когда люди вмешались, чтобы усовершенствовать электронные письма, созданные с помощью искусственного интеллекта, показатель успеха немного увеличился и составил 56%. Напротив, у обычных электронных писем контрольной группы показатель успешности был гораздо ниже - 12%, что подчеркивает важность персонализации в фишинговых кампаниях.

Участники отметили, что персонализированный контент является ключевым фактором доверия к электронным письмам. Например, гиперперсонализированные сообщения, ссылающиеся на конкретные академические интересы или профессиональную принадлежность, были гораздо более убедительными, чем общие призывы.

По словам Маттео Томасини, технического директора District 4 Labs, компании, специализирующейся на создании инструментов безопасности, которые отслеживают темную сеть, это имеет смысл.

“В прошлом отправка такого количества персонализированных и подробных электронных писем занимала бы слишком много времени”, - сказал Томасини в ходе опроса по электронной почте. “Признаки прошлых фишинговых писем, то есть неправильное написание и неправильная грамматика, менее распространены в фишинговых письмах с использованием искусственного интеллекта, и в результате людям нужно быть значительно более бдительными и осторожными, когда речь заходит об их почтовом ящике”.

Эффективность исследований и написания текстов с помощью OSINT составляет чуть более 50%, но реальный ущерб наносят затраты. Полностью автоматизированные кампании требуют всего четыре цента за электронное письмо и не требуют ручного труда. Более того, традиционные методы фишинга часто убыточны из-за высокой стоимости рабочей силы и ограниченной масштабируемости. Существует множество целей, и если злоумышленники не уделяют много времени тщательной работе и исследованиям, то в конечном итоге они обычно не получают большой прибыли. Такие атаки в конечном итоге удаляются.

Искусственный интеллект, похоже, все это изменил.

“Теперь злоумышленники могут проводить массовые атаки с использованием персонализированного контента, увеличивая масштаб и прибыльность операций по краже данных и личных данных”, - сказал Хейдинг.

Те, кто работает в сфере кибербезопасности, сходятся во мнении, что искусственный интеллект просто упрощает фишинг.

“Использование инструментов искусственного интеллекта, которые могут быть обучены на скомпрометированных данных из темного Интернета и контента социальных сетей, привело к распространению невероятно убедительных электронных писем с фишингом”, - пояснил Томасини.

Исследователи подсчитали, что злоумышленники могут увеличить свою прибыльность до 50 раз, если будут нацелены на большие группы, около 10 000 человек, используя инструменты искусственного интеллекта.

Итак, как мы можем защитить себя?

Хотя LLM могут использоваться для фишинга, они также перспективны в качестве средств защиты. В ходе исследования пять LLM были протестированы на способность обнаруживать подозрительные намерения в электронных письмах. Наиболее эффективной оказалась модель Claude 3.5 Sonnet, которая обеспечивает 97,25%-ный уровень обнаружения фишинговых писем без ложных срабатываний при подозрении на них. Однако даже такой высокий уровень обнаружения подчеркивает тревожную асимметрию: в то время как оборонительные приложения совершенствуются, наступательные возможности развиваются еще более быстрыми темпами.

Хейдинг и Томазини сходятся во мнении, что ИИ будет играть “двойную роль”, улучшая атаки и защиту.

По мнению Томазини, это будет “цикл, в котором достижения в области обороны будут способствовать прогрессу в атаках, и наоборот”.

Короче говоря, гонка вооружений.

“Будущее, вероятно, связано с динамикой ”ИИ против ИИ", когда и нападающие, и обороняющиеся используют ИИ, чтобы перехитрить друг друга", - прогнозирует Хейдинг. - Поскольку фишинг, генерируемый искусственным интеллектом, становится все более распространенным, разработка передовых механизмов обнаружения и предотвращения с помощью искусственного интеллекта будет иметь решающее значение для того, чтобы оставаться впереди в этом меняющемся мире кибербезопасности”.

Таким образом, для каждого электронного письма или текстового сообщения, которое появляется в вашей электронной почте, информированность становится ключевым приоритетом.

Томасини говорит, что люди должны быть активными. Он рекомендует настроить многофакторную аутентификацию (MFA) для всех возможных учетных записей, убедиться в актуальности программного обеспечения для обеспечения безопасности и регулярно менять пароли. Кроме того, пользователям необходимо проявлять бдительность и проверять текст или электронное письмо, прежде чем переходить по ссылке или делиться личной информацией.

Короче говоря, похоже, что дни неуклюже сформулированных мошеннических сообщений от российских моделей и членов королевской семьи из других стран с крупными суммами денег, которые они надеются вам переслать, наконец-то заканчиваются.

Источник