Боты теперь превосходят людей в кибер-обмане
Новое исследование показало, что системы искусственного интеллекта теперь могут создавать фишинговые электронные письма так же эффективно, как и люди-эксперты, что поднимает проблему кибербезопасности на совершенно новый уровень.
Опубликованное на сервере arXiv Корнелла исследование, подготовленное командой из Гарвардской школы Кеннеди и исследовательской группы Avant Research Group, подчеркивает растущую сложность больших языковых моделей (LLM). Эти модели позволяют создавать гиперперсонализированные, убедительные фишинговые кампании с меньшими затратами времени, чем при использовании традиционных методов.
Фишинг - это распространенная кибератака, при которой злоумышленники отправляют мошеннические электронные письма или текстовые сообщения, предназначенные для того, чтобы обманом заставить получателей разгласить конфиденциальную информацию, такую как пароли или финансовые данные, или перейти по ссылкам, которые устанавливают вредоносное ПО.
Что еще хуже, они наносят значительный экономический ущерб. В 2023 году только фишинговые атаки обошлись экономике США примерно в 2,4 миллиарда долларов.
Чтобы фишинговые атаки сработали, они должны использовать психологию людей, доверие, настойчивость или любопытство и манипулировать жертвами. Хорошие фишинговые атаки должны казаться достоверными, но по мере того, как все больше таких атак проникают в нашу коллективную систему управления правами, мы, жертвы, становимся все более умными. Это заставляет мошенников активизировать свою мошенническую игру, а искусственный интеллект довел эти схемы до беспрецедентной изощренности.
“Это значительно улучшает картину угроз”, - сказал доктор Фред Хейдинг из Гарвардской школы Кеннеди и автор исследования. “Редко можно увидеть явление, когда технология одновременно повышает качество и снижает затраты, как это происходит здесь”.
Исследовательская группа провела эксперимент с участием 101 участника, чтобы оценить эффективность фишинговых электронных писем, сгенерированных искусственным интеллектом, по сравнению с теми, которые были созданы экспертами-людьми. Участники были разделены на четыре группы, каждая из которых получала электронные письма разного типа.
Контрольная группа получала типовые фишинговые электронные письма с минимальной персонализацией; группа экспертов-людей получала полуперсонифицированные фишинговые электронные письма, созданные специалистами по кибербезопасности; группа электронной почты, сгенерированной с помощью искусственного интеллекта, получала полностью автоматизированные электронные письма, созданные Claude 3.5 Sonnet LLM; а группа электронной почты, работающая с использованием искусственного интеллекта, получала электронные письма с использованием искусственного интеллекта. -сгенерированные электронные письма, доработанные людьми.
Электронные письма, сгенерированные ИИ, были созданы с использованием специального инструмента, который автоматизировал весь процесс фишинга. Что еще более пугает, ИИ провел исследование своих целей с использованием Open Source Intelligence (OSINT).
“Наш специально разработанный инструмент автоматизирует процесс фишинга, собирая общедоступную информацию о целях с помощью общедоступной информации, такой как личные веб-сайты, страницы в социальных сетях и новостные статьи”, - пояснил Хейдинг. “Искусственный интеллект автоматически насыщается, когда считает, что нашел достаточно контента, а затем использует эту информацию для создания специальных фишинговых электронных писем”.
Исследование показало, что фишинговые электронные письма, созданные с помощью искусственного интеллекта, работают наравне с теми, которые были созданы экспертами-людьми, достигая 54% успеха в получении кликов по встроенным ссылкам. Когда люди вмешались, чтобы усовершенствовать электронные письма, созданные с помощью искусственного интеллекта, показатель успеха немного увеличился и составил 56%. Напротив, у обычных электронных писем контрольной группы показатель успешности был гораздо ниже - 12%, что подчеркивает важность персонализации в фишинговых кампаниях.
Участники отметили, что персонализированный контент является ключевым фактором доверия к электронным письмам. Например, гиперперсонализированные сообщения, ссылающиеся на конкретные академические интересы или профессиональную принадлежность, были гораздо более убедительными, чем общие призывы.
По словам Маттео Томасини, технического директора District 4 Labs, компании, специализирующейся на создании инструментов безопасности, которые отслеживают темную сеть, это имеет смысл.
“В прошлом отправка такого количества персонализированных и подробных электронных писем занимала бы слишком много времени”, - сказал Томасини в ходе опроса по электронной почте. “Признаки прошлых фишинговых писем, то есть неправильное написание и неправильная грамматика, менее распространены в фишинговых письмах с использованием искусственного интеллекта, и в результате людям нужно быть значительно более бдительными и осторожными, когда речь заходит об их почтовом ящике”.
Эффективность исследований и написания текстов с помощью OSINT составляет чуть более 50%, но реальный ущерб наносят затраты. Полностью автоматизированные кампании требуют всего четыре цента за электронное письмо и не требуют ручного труда. Более того, традиционные методы фишинга часто убыточны из-за высокой стоимости рабочей силы и ограниченной масштабируемости. Существует множество целей, и если злоумышленники не уделяют много времени тщательной работе и исследованиям, то в конечном итоге они обычно не получают большой прибыли. Такие атаки в конечном итоге удаляются.
Искусственный интеллект, похоже, все это изменил.
“Теперь злоумышленники могут проводить массовые атаки с использованием персонализированного контента, увеличивая масштаб и прибыльность операций по краже данных и личных данных”, - сказал Хейдинг.
Те, кто работает в сфере кибербезопасности, сходятся во мнении, что искусственный интеллект просто упрощает фишинг.
“Использование инструментов искусственного интеллекта, которые могут быть обучены на скомпрометированных данных из темного Интернета и контента социальных сетей, привело к распространению невероятно убедительных электронных писем с фишингом”, - пояснил Томасини.
Исследователи подсчитали, что злоумышленники могут увеличить свою прибыльность до 50 раз, если будут нацелены на большие группы, около 10 000 человек, используя инструменты искусственного интеллекта.
Итак, как мы можем защитить себя?
Хотя LLM могут использоваться для фишинга, они также перспективны в качестве средств защиты. В ходе исследования пять LLM были протестированы на способность обнаруживать подозрительные намерения в электронных письмах. Наиболее эффективной оказалась модель Claude 3.5 Sonnet, которая обеспечивает 97,25%-ный уровень обнаружения фишинговых писем без ложных срабатываний при подозрении на них. Однако даже такой высокий уровень обнаружения подчеркивает тревожную асимметрию: в то время как оборонительные приложения совершенствуются, наступательные возможности развиваются еще более быстрыми темпами.
Хейдинг и Томазини сходятся во мнении, что ИИ будет играть “двойную роль”, улучшая атаки и защиту.
По мнению Томазини, это будет “цикл, в котором достижения в области обороны будут способствовать прогрессу в атаках, и наоборот”.
Короче говоря, гонка вооружений.
“Будущее, вероятно, связано с динамикой ”ИИ против ИИ", когда и нападающие, и обороняющиеся используют ИИ, чтобы перехитрить друг друга", - прогнозирует Хейдинг. - Поскольку фишинг, генерируемый искусственным интеллектом, становится все более распространенным, разработка передовых механизмов обнаружения и предотвращения с помощью искусственного интеллекта будет иметь решающее значение для того, чтобы оставаться впереди в этом меняющемся мире кибербезопасности”.
Таким образом, для каждого электронного письма или текстового сообщения, которое появляется в вашей электронной почте, информированность становится ключевым приоритетом.
Томасини говорит, что люди должны быть активными. Он рекомендует настроить многофакторную аутентификацию (MFA) для всех возможных учетных записей, убедиться в актуальности программного обеспечения для обеспечения безопасности и регулярно менять пароли. Кроме того, пользователям необходимо проявлять бдительность и проверять текст или электронное письмо, прежде чем переходить по ссылке или делиться личной информацией.
Короче говоря, похоже, что дни неуклюже сформулированных мошеннических сообщений от российских моделей и членов королевской семьи из других стран с крупными суммами денег, которые они надеются вам переслать, наконец-то заканчиваются.
Источник
При использовании материалов с сайта активная ссылка на него обязательна
Меню
Архив материалов
Проекты наших читателей
Контакты исследователей
Подписка на новости
Проекты
Новости криптозоологии
Хроники природных катастроф
Новости
26.02.2002 - 05.07.2002
05.08.2002 - 23.10.2002 (562)
24.10.2002 - 17.01.2003 (585)
20.01.2003 - 07.04.2003 (709)
08.04.2003 - 01.08.2003 (709)
04.08.2003 - 18.11.2003 (763)
19.11.2003 - 31.03.2004 (721)
01.04.2004 - 13.08.2004 (825)
16.08.2004 - 22.11.2004 (782)
23.11.2004 - 28.03.2005 (756)
29.03.2005 - 29.07.2005 (807)
30.08.2005 - 02.12.2005 (927)
05.12.2005 - 21.04.2006 (912)
24.04.2006 - 23.10.2006 (999)
24.10.2006 - 03.05.2007 (999)
04.05.2007 - 28.01.2008 (999)
29.01.2008 - 12.01.2009 (999)
13.01.2009 - 07.07.2009 (966)
22.08.2009 - 21.01.2010 (996)
22.01.2010 - 22.06.2010 (1000)
23.06.2010 - 14.01.2011 (1042)
17.01.2011 - 31.05.2011 (1008)
01.06.2011 - 03.11.2011 (1003)
07.11.2011 - 16.03.2012 (996)
19.03.2012 - 09.06.2012 (1009)
13.06.2012 - 07.09.2012 (988)
10.09.2012 - 19.11.2012 (1004)
20.11.2012 - 14.01.2013 (1015)
15.01.2013 - 22.02.2013 (1000)
23.02.2013 - 08.04.2013 (991)
09.04.2013 - 31.05.2013 (1015)
01.06.2013 - 18.07.2013 (992)
19.07.2013 - 03.09.2013 (1014)
04.09.2013 - 20.10.2013 (1001)
21.10.2013 - 02.12.2013 (1001)
03.12.2013 - 18.01.2014 (997)
19.01.2014 - 07.03.2014 (994)
08.03.2014 - 24.04.2014 (1000)
25.04.2014 - 18.06.2014 (1005)
19.06.2014 - 15.08.2014 (1019)
16.08.2014 - 07.10.2014 (1006)
08.10.2014 - 16.11.2014 (995)
17.11.2014 - 25.12.2014 (1004)
26.12.2014 - 09.02.2015 (989)
10.02.2015 - 20.03.2015 (998)
21.03.2015 - 22.04.2015 (1001)
23.04.2015 - 29.05.2015 (997)
29.05.2015 - 30.06.2015 (995)
30.06.2015 - 29.07.2015 (990)
29.07.2015 - 26.08.2015 (998)
27.08.2015 - 24.09.2015 (988)
25.09.2015 - 22.10.2015 (991)
23.10.2015 - 18.11.2015 (1000)
18.11.2015 - 16.12.2015 (990)
17.12.2015 - 23.01.2016 (1000)
24.01.2016 - 25.02.2016 (1000)
26.02.2016 - 24.03.2016 (1000)
24.03.2016 - 16.04.2016 (990)
17.04.2016 - 19.05.2016 (999)
20.05.2016 - 22.06.2016 (993)
23.06.2016 - 01.08.2016 (995)
02.08.2016 - 12.09.2016 (990)
13.09.2016 - 25.10.2016 (989)
26.10.2016 - 05.12.2016 (995)
06.12.2016 - 15.01.2017 (995)
16.01.2017 - 23.02.2017 (990)
24.02.2017 - 03.04.2017 (994)
04.04.2017 - 18.05.2017 (1000)
19.05.2017 - 05.07.2017 (1000)
06.07.2017 - 24.08.2017 (1000)
25.08.2017 - 06.10.2017 (991)
07.10.2017 - 15.11.2017 (990)
16.11.2017 - 24.12.2017 (1000)
25.12.2017 - 04.02.2018 (990)
05.02.2018 - 17.03.2018 (1000)
18.03.2018 - 02.05.2018 (990)
03.05.2018 - 11.06.2018 (1000)
12.06.2018 - 18.07.2018 (990)
19.07.2018 - 24.08.2018 (1000)
25.08.2018 - 02.10.2018 (1000)
03.10.2018 - 07.11.2018 (990)
08.11.2018 - 13.12.2018 (990)
14.12.2018 - 23.01.2019 (1000)
24.01.2019 - 02.03.2019 (1000)
03.03.2019 - 12.04.2019 (1010)
13.04.2019 - 23.05.2019 (990)
24.05.2019 - 03.07.2019 (1000)
04.07.2019 - 11.08.2019 (1000)
12.08.2019 - 16.09.2019 (990)
17.09.2019 - 26.10.2019 (1000)
27.10.2019 - 12.12.2019 (1000)
13.12.2019 - 25.01.2020 (1000)
26.01.2020 - 06.03.2020 (990)
07.03.2020 - 16.04.2020 (1010)
17.04.2020 - 19.05.2020 (1000)
20.05.2020 - 25.06.2020 (990)
26.06.2020 - 04.08.2020 (995)
05.08.2020 - 16.09.2020 (1005)
17.09.2020 - 26.10.2020 (990)
27.10.2020 - 27.11.2020 (990)
28.11.2020 - 07.01.2021 (990)
08.01.2021 - 15.02.2021 (1000)
16.02.2021 - 31.03.2021 (1000)
01.04.2021 - 12.05.2021 (1000)
13.05.2021 - 14.06.2021 (990)
15.06.2021 - 26.07.2021 (980)
27.07.2021 - 31.08.2021 (990)
01.09.2021 - 07.10.2021 (1000)
08.09.2021 - 07.11.2021 (1000)
08.11.2021 - 10.12.2021 (1000)
11.12.2021 - 24.01.2022 (990)
25.01.2022 - 04.03.2022 (1000)
05.03.2022 - 10.04.2022 (990)
11.04.2022 - 17.05.2022 (1000)
18.05.2022 - 23.06.2022 (980)
24.06.2022 - 31.07.2022 (990)
01.08.2022 - 13.09.2022 (990)
14.09.2022 - 21.10.2022 (990)
22.10.2022 - 29.11.2022 (1000)
30.11.2022 - 22.01.2023 (1000)
23.01.2023 - 02.03.2023 (990)
03.03.2023 - 21.04.2023 (1000)
22.04.2023 - 13.06.2023 (990)
14.06.2023 - 02.08.2023 (1000)
03.08.2023 - 21.09.2023 (1000)
22.09.2023 - 06.11.2023 (990)
07.11.2023 - 24.12.2023 (990)
25.12.2023 - 18.02.2024 (1000)
19.02.2024 - 05.04.2024 (990)
06.04.2024 - 25.05.2024 (1000)
26.05.2024 - 26.07.2024 (1000)
26.07.2024 - 25.08.2024 (990)
26.08.2024 - 28.09.2024 (980)
29.09.2024 - 01.11.2024 (1000)
02.11.2024 - 02.12.2024 (980)
03.12.2024 - 08.01.2025 (990)
09.01.2025 - 09.02.2025 (1000)
10.02.2025 - 20.03.2025 (1000)
21.03.2025 - 03.05.2025 (990)
04.05.2025 - ...
Статьи
Статьи: раздел 1 (1024)
Статьи: раздел 2 (1006)
Статьи: раздел 3 (1000)
Статьи: раздел 4 (1044)
Статьи: раздел 5 (1001)
Статьи: раздел 6 (1000)
Статьи: раздел 7 (1000)
Статьи: раздел 8 (1013)
Статьи: раздел 9 (1000)
Статьи: раздел 10 (1000)
Статьи: раздел 11 (329)
Статьи: раздел 12 (1000)
Статьи: раздел 13 (730)
Лента новостей

Астрономы ищут таинственную девятую планету

ВВС США опубликовали новое видео НЛО

Граф Дракула похоронен в Неаполе

ИИ может подорвать навыки критического мышления

Использование космолифта для доставки воды с Цереры

Как темные фотоны могут стать темной материей

Корабль инопланетян летит через Солнечную систему

Криптозоологи поженились на фестивале

Манчестерская одержимость НЛО

Миссури одна из горячих точек НЛО

Необъяснимые наблюдения в небе Северной Каролины

Оборотень замечен в Бридлингтоне

Переписка Пентагона с подрядчиком о НЛО

Посреди ангара стояла настоящая летающая тарелка

Природные НЛО еще более странные и загадочные

Редчайший спрайт заметили над Мексикой

У Вселенной есть кнопка самоуничтожения

Учения помогут понять и избежать конфликтов на Луне

Фотография оборотня, замеченного в лесах Великобритании

Экстраординарная находка внутри Великой пирамиды

Впервые отправили в стратосферу чипированных крыс

Есть ли в океанических мирах зоны, пригодные для жизни

Загадка пластины Эдмонтона

Заклинания, ведуны-целители и охота на ведьм

Заявили об обнаружении могилы Влада Дракулы

ИИ грозит массовыми увольнениями

Как сегодня выглядит место падения Тунгусского метеорита

Маленький шаг к планированию жизни на Марсе

Минерал, которого там не должно быть нашли на Рюгу

Новое исследование о горячих Юпитерах

Новое оружие вызывает отключение электроэнергии

Первый взгляд на экзопланету GJ 504b

План Трампа угрожает космическому превосходству США

Подсчитали количество пригодных для жизни экзопланет

Почему речь политиков при власти становится запутанной

Способность ИИ к пониманию собственных слов

Тайна исчезновения подледного океана Харона

Тайны удивительного Меркурия

Три электрона ведут себя как куча

Экзопланетные системы разнообразны

Актриса делится историей наблюдения НЛО

Величайшее затонувшее сокровище Америки

Величайшие уфологи из Аризоны

Внеземные встречи в Колорадо

Водонапорная башня в стиле НЛО в Иллинойсе

Главные уфологические песни

Его история о похищении в Аризоне стала легендой

Ежегодный рынок поделок на инопланетную тематику

На что похожи корабли инопланетян

НЛО, инопланетяне и неизвестные существа

Осознанные сновидения - уникальное состояние Сознания

Пентагон распространял мифы об НЛО в Зоне 51

Популярные у инопланетян канадские города

Секретная подземная база, управляемая инопланетянами

Странные НЛО беспокоят полицию Аргентины

Странный объект, запечатленный в Массачусетсе

Сфера Мосула, снятая над Ираком

Уфолог выступает в районной библиотеке Брайтона

Уфологические романы об инопланетянах и неизведанном

Ученые озадачены обнаруженным межзвездным объектом

Лечение алкоголизма. Как работает современная наркологическая помощь

Где же самолет Амелии Эрхарт

Дискуссия о вымирание неандертальцев

Звездная система, пропитанная спиртом

Леди встретилась с легендарным чудовищем Несси

Миллионы долларов DARPA выбросило на ветер

НЛО чаще всего наблюдают в Великобритании

Новаторская книга раскрывает секреты НЛО

Новые улики в деле Амелии Эрхарт

Пиктограмма Джокера появилась возле Стоунхенджа

Представлены научные данные о сооружениях под пирамидами

Приостановка регулирования ИИ приведет мир к катастрофе

Путеводитель по событиям в области НЛО

Раскрыли источник загадочного космического импульса

Раскрыт геометрический секрет витрувианского человека

Революционное открытие в Великой пирамиде Египта

Таинственная подземная база инопланетян

Три мозга объединили с помощью одной только мысли

Усилия по принятию закона о раскрытии информации о НЛО

Уфологический фестиваль проходит в Розуэлле

Экзопланета, жаждущая смерти

Гравитационная постоянная - тайна раскрыта!

Апокалиптические астероиды подождут

Атлантида всего в двух милях от побережья Испании

Всемирный день НЛО. История, значение, мероприятия

Галактики, которые мы никогда раньше не видели

Глубинное государство изобрело уфологию

ИИ за пару дней решил загадку супербактерий

Как создать отказоустойчивый квантовый компьютер

Калифорния лидирует по числу наблюдений НЛО

Карьера в области исследований инопланетян

Миссури входит в число уфо-штатов США

Наблюдения НЛО, которые потрясли Индию и весь мир

Необъяснимые наблюдения в небе Вирджинии

Обнаружено самое любимое число ИИ - и это не 42

Обнаружили метеориты с Меркурия

Почему Всемирный день НЛО отмечается 2 июля

Предсказание, что за термоядерным синтезом стоит энергия

Странная история о невидимом мальчике

Странное погодное явление над Португалией

Фиолетовый свет в небе Иордании

Что было замечено в небе Флориды

Экономия с помощью промокодов на Яндекс.Маркете. Как покупать выгодно

Преимущества заказа торта к празднику. Как выбрать идеальный десерт для особого случая

Отказ в визе в Румынию, или как перестать бояться

Большого кота заметили в сумерках

Бортинженер НАСА рассказал об инопланетных технологиях

Маленький городок привлекает уфологов

Миллионы наушников можно превратить в жучки

Мозговой имплант Neuralink получили уже семь пациентов

Моя ночь в мотеле с привидениями и клоунами

Над США взорвался метеорит массой более тонны

Необычный НЛО, снятый в Колорадо

Неразгаданные головоломки

Неужели так наступит Конец света

Обнаружили затерянный египетский город

Правительство США скрывает связи с инопланетянами

Самые безумные традиции летнего солнцестояния

Самые опасные места для жизни в Великобритании

Создание реальных Франкенштейнов

Спутник заговорил после смерти в 1967 году

Существо, которое существует между жизнью и нежизнью

Человечество достигнет Сингулярности в течение 20 лет

Что было замечено в небе Нью-Гэмпшира

Я была набожной католичкой ... пока не умерла

Больше шансов обнаружить НЛО в Техасе

Бывший пилот истребителя чуть не столкнулся с НЛО

Всемирный день уфологов

Гигантский кальмар показал свое тайное лицо

Какими сверхспособностями будут обладать люди

Лже-копы пытались украсть сферообразный НЛО

Марк Цукерберг может превратить США в диктатуру

Мини-черные дыры могут скрываться в вашем доме

Мистификации, связанные с изменением климата

Пентагон фабриковал доказательства о НЛО

Повод задуматься о необъяснимых явлениях

Почему в 30 лет можно чувствовать себя на 60

Свидетельства очевидцев НЛО в США

Таинственный объект приближается к Вашингтону

Уфологи приписывают инопланетянам любые подвиги

Факты и история инцидента с НЛО в Розуэлле

Что было замечено в небе Иллинойса

Энтузиасты отмечают Всемирный день НЛО

ИИ ChatGPT выдает ответы на чужие запросы

Ключи к пониманию того как распространяется рак

Лишайники указали на обитаемость экзопланет

НЛО облучил радиацией жителя Канады

Очень массивные звезды выбрасывают еще больше вещества

Полеты звезд не изменили климат Земли

Роли аккреций в эволюции планет земной группы

Странное существо с вытянутой головой

Тайна озера Тахо

Японские хирурги удалили ребенку зуб из носа

Амбициозный законопроект по НЛО провалился

Города, в которых чаще всего видели НЛО

Звездообразный объект над Вашингтоном

Каковы шансы обнаружить НЛО в США

Конгресс США запретил сотрудникам пользоваться WhatsApp

Оружейные бароны прикрывались НЛО

Подводный аппарат обнаружил секретные сооружения

Призрачный шлейф, поднимающийся из мантии Земли

Разгадка тайны падающего объекта Массачусетса

Секретное оружие, которое может остановить слепоту

Сигарообразный аппарат пронёсся по марсианскому небу

Этим летом вращение Земли ускорится

Астрономы послушали 27 экзопланет на наличие ВЦ

Впервые нашли галактику из темной материи

Заночевавший в лесу охотник встретил инопланетян

Звездные вспышки могут помешать поиску жизни

ИИ может научиться разрабатывать биологическое оружие

Киберпсихологи впервые нашли способ усилить эмоции

Нейросети осознали, что их проверяют и вели себя примерно

Хирурги провели роботизированную пересадку сердца

Человек, который мог по желанию стать невидимым

Шестой пациент с мозговым имплантом Neuralink

Антигравитация - поехали

Важные секреты формирования планет

Вулкан поможет определить обитаемость Марса

Гигантская комета в облаке Оорта раскрывает свои секреты

Жизнь на Марсе - можно ли извлечь уроки

Исследования проливают свет на темную материю

Как органика выживает в экстремальных межзвездных условиях

Лунная пыль менее токсична, чем городское загрязнение

Нашли адрес пропавшей материи во Вселенной

Новая волна откровений от 'живого Нострадамуса'

Обнаружены три экзопланеты типа горячий Юпитер

Наверх
Яндекс.Метрика