|
Хакеры повсюду используют искусственный интеллект
|
|
|
|
Этим летом российские хакеры по-новому отреагировали на поток фишинговых электронных писем, рассылаемых украинцам. Хакеры разместили вложение, содержащее программу искусственного интеллекта. Если программа будет установлена, она автоматически выполнит поиск на компьютерах жертв конфиденциальных файлов для отправки обратно в Москву.
|
|
|
|
Эта кампания, подробно описанная в июле в технических отчетах украинского правительства и нескольких компаний, занимающихся кибербезопасностью, является первым известным случаем, когда российская разведка была уличена в создании вредоносного кода с использованием больших языковых моделей (LLM), типа чат-ботов с искусственным интеллектом, которые стали широко распространены в корпоративной культуре.
|
|
|
|
Российские шпионы не одиноки. В последние месяцы хакеры, казалось бы, всех мастей — киберпреступники, шпионы, исследователи и корпоративные защитники — начали внедрять в свою работу инструменты искусственного интеллекта.
|
|
|
|
LLM, такие как ChatGPT, по-прежнему подвержены ошибкам. Но они стали удивительно искусными в обработке языковых инструкций и переводе простого языка в компьютерный код, а также в идентификации и обобщении документов.
|
|
|
|
|
|
|
Эта технология пока не произвела революцию во взломе, превратив новичков в экспертов, и не позволила потенциальным кибертеррористам отключать электросеть. Но она делает опытных хакеров лучше и быстрее. Компании, занимающиеся кибербезопасностью, и исследователи тоже сейчас используют искусственный интеллект, что способствует растущей игре в кошки—мышки между атакующими хакерами, которые находят и используют недостатки программного обеспечения, и защитниками, которые пытаются исправить их первыми.
|
|
|
|
“Это начало всего начала. Возможно, мы приближаемся к середине пути”, - сказала Хизер Адкинс, вице-президент Google по разработке систем безопасности.
|
|
|
|
В 2024 году команда Адкинса приступила к реализации проекта по использованию LLM компании Google, Gemini, для поиска важных уязвимостей в программном обеспечении или багов, прежде чем преступные хакеры смогут их обнаружить. Ранее в этом месяце Адкинс объявила, что ее команда обнаружила по меньшей мере 20 важных упущенных ошибок в широко используемом программном обеспечении и предупредила компании, чтобы они могли их исправить. Этот процесс продолжается.
|
|
|
|
По ее словам, ни одна из уязвимостей не была шокирующей или такой, которую могла бы обнаружить только машина. Но с ИИ процесс просто ускоряется. “Я не видела, чтобы кто-то находил что-то новое”, - сказала она. “Это просто своего рода выполнение того, что мы уже умеем делать. Но это будет прогрессировать”.
|
|
|
|
Адам Мейерс, старший вице-президент компании по кибербезопасности CrowdStrike, сказал, что его компания не только использует искусственный интеллект, чтобы помочь людям, которые думают, что их взломали, но и видит все больше доказательств его использования китайскими, российскими, иранскими и криминальными хакерами, которых отслеживает его компания.
|
|
|
|
“Более продвинутые противники используют это в своих интересах”, - сказал он. “С каждым днем мы видим все больше и больше подобных случаев”, - сказал он в интервью NBC News.
|
|
|
|
Этот сдвиг только начинает сказываться на ажиотаже, который уже много лет царит в сфере кибербезопасности и искусственного интеллекта, особенно с тех пор, как в 2022 году ChatGPT был представлен широкой публике. Эти инструменты не всегда оказывались эффективными, и некоторые исследователи в области кибербезопасности жаловались на то, что потенциальные хакеры клюют на поддельные данные об уязвимостях, полученные с помощью искусственного интеллекта.
|
|
|
|
Мошенники и социальные инженеры — люди, участвующие в хакерских операциях, которые выдают себя за кого—то другого или пишут убедительные фишинговые электронные письма, - используют LLM, чтобы казаться более убедительными, по крайней мере, с 2024 года.
|
|
|
|
Но использование искусственного интеллекта для прямого взлома целей только начинает набирать обороты, сказал Уилл Пирс, генеральный директор DreadNode, одной из немногих новых охранных компаний, специализирующихся на взломе с использованием LLMS.
|
|
|
|
Причина, по его словам, проста: технология наконец-то начала оправдывать ожидания.
|
|
|
|
“На данный момент и технология, и модели действительно хороши”, - сказал он.
|
|
|
|
Менее двух лет назад автоматизированные инструменты для взлома ИИ нуждались бы в значительной доработке, чтобы выполнять свою работу должным образом, но сейчас они гораздо более совершенные, сказал Пирс в интервью NBC News.
|
|
|
|
Еще один стартап, созданный для взломов с использованием искусственного интеллекта, Xbow, вошел в историю в июне, став первым ИИ, который поднялся на вершину рейтинга лидеров HackerOne в США, живого рейтинга хакеров по всему миру, который с 2016 года отслеживает хакеров, выявляя наиболее важные уязвимости и предоставляя им право хвастаться. На прошлой неделе HackerOne добавил новую категорию для групп, автоматизирующих инструменты взлома ИИ, чтобы отличать их от отдельных исследователей-людей. Xbow по-прежнему лидирует в этой категории.
|
|
|
|
Хакеры и специалисты по кибербезопасности еще не решили, кому в конечном итоге больше поможет искусственный интеллект - нападающим или защитникам. Но на данный момент защита, похоже, выигрывает.
|
|
|
|
Алексей Булазель, старший директор по кибербезопасности Совета национальной безопасности Белого дома, заявил на конференции Def Con hacker в Лас-Вегасе на прошлой неделе, что эта тенденция сохранится, по крайней мере, до тех пор, пока в США будут находиться большинство самых передовых технологических компаний в мире.
|
|
|
|
“Я твердо верю, что искусственный интеллект принесет больше пользы защитникам, чем нападающим”, - сказал Булазель.
|
|
|
|
Он отметил, что хакеры редко находят чрезвычайно разрушительные уязвимости в крупной технологической компании США, и что преступники часто взламывают компьютеры, находя мелкие, незамеченные недостатки в небольших компаниях, в которых нет элитных команд по кибербезопасности. По его словам, ИИ особенно полезен в обнаружении таких ошибок до того, как это сделают преступники.
|
|
|
|
“Те вещи, в которых ИИ лучше разбирается, — выявление уязвимостей недорогим и простым способом — действительно упрощает доступ к информации об уязвимостях”, - сказал Булазель.
|
|
|
|
Однако по мере развития технологий эта тенденция может и не сохраниться. Одна из причин заключается в том, что до сих пор не существует бесплатного автоматического инструмента для взлома или тестера на проникновение, который включал бы искусственный интеллект. Такие инструменты уже широко доступны в Интернете, формально как программы, которые проверяют на наличие недостатков в методах, используемых хакерами-преступниками.
|
|
|
|
Если кто-то внедрит продвинутый LLM и он станет общедоступным, это, вероятно, будет означать открытие сезона для программ небольших компаний, сказал Адкинс из Google.
|
|
|
|
“Я думаю, также разумно предположить, что в какой-то момент кто-то выпустит [такой инструмент]”, - сказала она. “Именно в этот момент, я думаю, это становится немного опасным”.
|
|
|
|
Мейерс из CrowdStrike сказал, что появление агентного ИИ — инструментов, которые выполняют более сложные задачи, такие как написание и отправка электронных писем или выполнение программного кода, — может стать серьезной угрозой кибербезопасности.
|
|
|
|
“Агентный ИИ - это действительно ИИ, который может действовать от вашего имени, не так ли? Это станет следующей угрозой со стороны инсайдеров, потому что, поскольку организации используют этот агентный ИИ, у них нет встроенных средств защиты, которые помешали бы кому-либо злоупотребить им”, - сказал он.
|
|
|
|
Источник
|
