|
Пентагон не допустит появления терминаторов
|
|
|
|
Официальные лица Пентагона забили тревогу по поводу "уникальных классов уязвимостей для ИИ или автономных систем", которые, как они надеются, могут быть устранены с помощью новых исследований. Перед программой, получившей название Guaranteing AI Robustness against Deception (GARD), с 2022 года стоит задача определить, как визуальные данные или другие электронные сигналы, поступающие на вход ИИ, могут быть изменены с помощью рассчитанного введения шума. Ученые-компьютерщики из одного из оборонных подрядчиков GARD экспериментировали с калейдоскопическими патчами, предназначенными для того, чтобы обмануть системы на основе искусственного интеллекта и заставить их создавать фальшивые идентификаторы. "По сути, вы можете, добавив шум к изображению или сенсору, нарушить работу алгоритма машинного обучения", - объяснил в среду один высокопоставленный чиновник Пентагона, руководивший исследованиями. Эта новость появилась на фоне опасений, что Пентагон "создает роботов—убийц в подвале", что, как утверждается, привело к ужесточению правил в области искусственного интеллекта для вооруженных сил США, согласно которым все системы должны быть одобрены перед развертыванием.
|
|
|
|
"Зная этот алгоритм, вы также можете иногда создавать физически реализуемые атаки", - добавил Мэтт Турек, заместитель директора Отдела информационных инноваций Агентства перспективных исследовательских проектов Министерства обороны (DARPA). Технически возможно "обмануть" алгоритм ИИ, заставив его совершать критически важные ошибки — заставлять ИИ неправильно идентифицировать различные узорчатые заплатки или наклейки для реального физического объекта, которого на самом деле нет. Например, автобус, набитый гражданскими лицами, может быть ошибочно идентифицирован ИИ как танк, если он будет помечен правильным "визуальным шумом", как предложил в качестве примера один репортер по национальной безопасности, работающий на сайте ClearanceJobs. Короче говоря, такая дешевая и легкая тактика "создания шума" может привести к тому, что жизненно важный военный ИИ во время критической миссии ошибочно примет вражеских комбатантов за союзников и наоборот. Как показывают аудиты Пентагона, исследователи в рамках программы GARD со скромным бюджетом потратили 51 000 долларов на изучение тактики визуального контроля и подавления сигналов с 2022 года.
|
|
|
Результаты их работы опубликованы в исследовании 2019 и 2020 годов, иллюстрирующем, как визуальный шум, который может казаться человеческому глазу просто декоративным или несущественным, как, например, плакат "Волшебный глаз" 1990-х годов, может быть интерпретирован искусственным интеллектом как твердый объект. Компьютерщикам из оборонного подрядчика MITRE Corporation удалось создать визуальный шум, который искусственный интеллект принял за яблоки на полке продуктового магазина, сумку, оставленную на улице, и даже людей. "Независимо от того, являются ли это физически реализуемыми атаками или шумовыми моделями, которые добавляются в системы искусственного интеллекта, - сказал Турек в среду, - программа GARD создала самую современную защиту от них". "Некоторые из этих инструментов и возможностей были предоставлены CDAO [главному управлению цифровых технологий и искусственного интеллекта Министерства обороны]", - сказал Турек. Пентагон создал CDAO в 2022 году; он служит центром, способствующим более быстрому внедрению искусственного интеллекта и связанных с ним технологий машинного обучения в вооруженных силах.
|
|
|
|
По словам заместителя помощника министра обороны США по развитию вооруженных сил и новым возможностям Майкла Горовица (Michael Horowitz), Министерство обороны недавно обновило свои правила в отношении искусственного интеллекта, несмотря на "большую путаницу" в отношении того, как оно планирует использовать машины, самостоятельно принимающие решения на поле боя Горовиц объяснил на мероприятии в январе этого года, что "директива не запрещает разработку каких-либо систем [искусственного интеллекта]", но "разъяснит, что разрешено, а что нет", и поддержит "приверженность ответственному поведению" при разработке смертоносных автономных систем. Хотя Пентагон считает, что изменения должны успокоить общественность, некоторые заявили, что их "не убедили" эти усилия. Марк Бракель, директор правозащитной организации Future of Life Institute (FLI), сказал DailyMail.com в январе этого года: "Это оружие несет в себе огромный риск непреднамеренной эскалации".
|
|
|
|
Он объяснил, что оружие на базе искусственного интеллекта может неправильно интерпретировать что-либо, например солнечный луч, и воспринимать это как угрозу, таким образом атакуя иностранные державы без причины и без преднамеренного враждебного "визуального шума". Бракель сказал, что результат может быть разрушительным, потому что "без реального контроля со стороны человека оружие на базе искусственного интеллекта похоже на инцидент с норвежской ракетой [близкий к ядерному армагеддону] на стероидах, и оно может увеличить риск аварий в горячих точках, таких как Тайваньский пролив". Dailymail.com мы обратились в Министерство обороны за комментариями. Министерство обороны активно продвигает модернизацию своего арсенала с помощью автономных беспилотных летательных аппаратов, танков и другого оружия, которое выбирает цель и атакует ее без вмешательства человека.
|
|
|
|
Источник
|
