Пентагон не допустит появления терминаторов
Официальные лица Пентагона забили тревогу по поводу "уникальных классов уязвимостей для ИИ или автономных систем", которые, как они надеются, могут быть устранены с помощью новых исследований. Перед программой, получившей название Guaranteing AI Robustness against Deception (GARD), с 2022 года стоит задача определить, как визуальные данные или другие электронные сигналы, поступающие на вход ИИ, могут быть изменены с помощью рассчитанного введения шума. Ученые-компьютерщики из одного из оборонных подрядчиков GARD экспериментировали с калейдоскопическими патчами, предназначенными для того, чтобы обмануть системы на основе искусственного интеллекта и заставить их создавать фальшивые идентификаторы. "По сути, вы можете, добавив шум к изображению или сенсору, нарушить работу алгоритма машинного обучения", - объяснил в среду один высокопоставленный чиновник Пентагона, руководивший исследованиями. Эта новость появилась на фоне опасений, что Пентагон "создает роботов—убийц в подвале", что, как утверждается, привело к ужесточению правил в области искусственного интеллекта для вооруженных сил США, согласно которым все системы должны быть одобрены перед развертыванием.
"Зная этот алгоритм, вы также можете иногда создавать физически реализуемые атаки", - добавил Мэтт Турек, заместитель директора Отдела информационных инноваций Агентства перспективных исследовательских проектов Министерства обороны (DARPA). Технически возможно "обмануть" алгоритм ИИ, заставив его совершать критически важные ошибки — заставлять ИИ неправильно идентифицировать различные узорчатые заплатки или наклейки для реального физического объекта, которого на самом деле нет. Например, автобус, набитый гражданскими лицами, может быть ошибочно идентифицирован ИИ как танк, если он будет помечен правильным "визуальным шумом", как предложил в качестве примера один репортер по национальной безопасности, работающий на сайте ClearanceJobs. Короче говоря, такая дешевая и легкая тактика "создания шума" может привести к тому, что жизненно важный военный ИИ во время критической миссии ошибочно примет вражеских комбатантов за союзников и наоборот. Как показывают аудиты Пентагона, исследователи в рамках программы GARD со скромным бюджетом потратили 51 000 долларов на изучение тактики визуального контроля и подавления сигналов с 2022 года.
Результаты их работы опубликованы в исследовании 2019 и 2020 годов, иллюстрирующем, как визуальный шум, который может казаться человеческому глазу просто декоративным или несущественным, как, например, плакат "Волшебный глаз" 1990-х годов, может быть интерпретирован искусственным интеллектом как твердый объект. Компьютерщикам из оборонного подрядчика MITRE Corporation удалось создать визуальный шум, который искусственный интеллект принял за яблоки на полке продуктового магазина, сумку, оставленную на улице, и даже людей. "Независимо от того, являются ли это физически реализуемыми атаками или шумовыми моделями, которые добавляются в системы искусственного интеллекта, - сказал Турек в среду, - программа GARD создала самую современную защиту от них". "Некоторые из этих инструментов и возможностей были предоставлены CDAO [главному управлению цифровых технологий и искусственного интеллекта Министерства обороны]", - сказал Турек. Пентагон создал CDAO в 2022 году; он служит центром, способствующим более быстрому внедрению искусственного интеллекта и связанных с ним технологий машинного обучения в вооруженных силах.
По словам заместителя помощника министра обороны США по развитию вооруженных сил и новым возможностям Майкла Горовица (Michael Horowitz), Министерство обороны недавно обновило свои правила в отношении искусственного интеллекта, несмотря на "большую путаницу" в отношении того, как оно планирует использовать машины, самостоятельно принимающие решения на поле боя Горовиц объяснил на мероприятии в январе этого года, что "директива не запрещает разработку каких-либо систем [искусственного интеллекта]", но "разъяснит, что разрешено, а что нет", и поддержит "приверженность ответственному поведению" при разработке смертоносных автономных систем. Хотя Пентагон считает, что изменения должны успокоить общественность, некоторые заявили, что их "не убедили" эти усилия. Марк Бракель, директор правозащитной организации Future of Life Institute (FLI), сказал DailyMail.com в январе этого года: "Это оружие несет в себе огромный риск непреднамеренной эскалации".
Он объяснил, что оружие на базе искусственного интеллекта может неправильно интерпретировать что-либо, например солнечный луч, и воспринимать это как угрозу, таким образом атакуя иностранные державы без причины и без преднамеренного враждебного "визуального шума". Бракель сказал, что результат может быть разрушительным, потому что "без реального контроля со стороны человека оружие на базе искусственного интеллекта похоже на инцидент с норвежской ракетой [близкий к ядерному армагеддону] на стероидах, и оно может увеличить риск аварий в горячих точках, таких как Тайваньский пролив". Dailymail.com мы обратились в Министерство обороны за комментариями. Министерство обороны активно продвигает модернизацию своего арсенала с помощью автономных беспилотных летательных аппаратов, танков и другого оружия, которое выбирает цель и атакует ее без вмешательства человека.
Источник
При использовании материалов с сайта активная ссылка на него обязательна
Последние аномальные новости

Где находится Планета X в нашей Солнечной системе

Захватывающее представление о далеком прошлом Вселенной

Многочисленные наблюдения НЛО ставят экспертов в тупик

НЛО могут быть из России или Китая

Новый взгляд на вращение протона

Обнаружена потенциально обитаемая экзо-Венера

Обнаружили новую экзопланету с массой Сатурна

Парад планет начнется в июне

Первый контакт с инопланетянами будет драматичным

Пользователь Neuralink работает в режиме многозадачности

Призрак собаки или кошки проходит сквозь машины

Роботы предоставят услуги, которые вам нужны

Россия общается с НЛО через радиостанцию Зуммер

Слой D Земли - реликт древних океанов и столкновений планет

Таинственное вторжение гуманоидов в Испанию

Тайна НЛО на дне Балтийского моря раскрыта

Тайны египетских гробниц

Тайны одиноких моаи острова Пасхи

Технологии ИИ так же опасны, как и ядерные бомбы

Штаб-квартира подготовки военно-космических сил США

Впервые обнаружено рождение самых ранних галактик

Гигантский НЛО был замечен над озером Цюрих

Женщина с самыми длинными ногтями не стригла их 27 лет

Житель Северной Каролины обнаружил НЛО

Земля 2.0 или ее зловещий двойник

Инопланетяне уже взаимодействуют с человечеством

Книга 'Без согласия' уже в продаже во французских магазинах

Мужчина заметил Тень у дома своей подруги

Нашли ключ к избавлению от ночных кошмаров навсегда

Неплохое место для миграции с Земли

Обнаружена Земля 2.0

Определение возраста контактного двойного астероида

Первое наблюдение плазменной волны на Солнце

Пророк назвал дату начала Третьей мировой войны

Пророчество Эдгара Кейси о кометном апокалипсисе

Разработали усилитель для охотников за темной материей

Робот собирает кубик Рубика за 0,305 секунды

Самый большой протопланетный диск

Сверхгорячие Юпитеры не так уж обречены

Теперь я могу мысленно управлять компьютерами

Bemo Investment Firm LTD: обзор и отзывы о компании

Впервые измерили вращение сверхмассивной черной дыры

Житель Северной Каролины нашел НЛО в горах

Инопланетное морское существо выбросило на берег

Использование ИИ для борьбы с системным расизмом

Источник магнитного поля Солнца находиться у поверхности

Могут ли инопланетные электростанции быть техносигналами

Мы могли бы без усилий плавать в океане Плутона

Нечеловеческий разум взаимодействует с человечеством

НЛО в небе над Бразилией, Аргентиной и Чили ставят в тупик

Оно может выглядеть как НЛО, но это не НЛО

Открытие парка 'Столица НЛО в Миссури'

Попытки заманить инопланетян на Землю

Представили обширный каталог странных новых миров

Представление о гибридном состоянии вещества

Самые населенные призраками острова - 4

Съемки фильма Стивена Спилберга о НЛО вот-вот начнутся

Теории заговора и суровая реальность OpenAI

Черные дыры похожи на Звезду смерти

Черные дыры стреляют лучами во все подряд

Экзопланета, которая является неплохим местом для жизни

Астролог Кумар предсказал начало третьей мировой войны

В небе над Ставропольем заметили неопознанный объект

Высадка землян на экзопланету

ЕС принял первый в мире закон об ИИ

Женщина 10 лет ничего не ест и не пьет

ИИ не достигнет уровня человеческого интеллекта

Инопланетян можно отследить по отражению их энергосистем

Конспирологи оказались любителями пофилософствовать

Методика расчета стоимости испытаний космической техники

Минусинский проект НЛО

НЛО, ИИ и столкновения с нечеловеческим разумом

Почему люди думают, что видят призраков

Природоподобные пространственные структуры в сверхпроводниках

Семь ожидаемых научно-фантастических книг

Социолог Йохан Галтунг предсказал крах США и Европы

Странный торнадо замечен в горах Китая

Умер известный уфолог Брюс Маккаби

Физики преодолели шум при квантовой телепортации

Чилийского сенатора похитили инопланетяне

Чудовище заместили в озере Лох-Несс

В Макминвилле ежегодно проводится фестиваль НЛО

Вглядываясь в океан Плутона с помощью математических моделей

Ведьма усыновила одержимого клоуна

Взрыв новой звезды, видимый невооруженным глазом

Дом-НЛО получил статус объекта культурного наследия

Железный снег может раскрыть секреты жизни на Европе

Жители японского города увидели девять жутких столбов света

Закон о прозрачности в отношении НЛО

Зонд Психея запускает свои фантастические двигатели

Инструмент НАСА готовится к съемке экзопланет

Кристаллы для усовершенствования квантовых компьютеров

Метеорологический спутник засек огненный шар

Предполагаемая посадка НЛО в Харрисонбурге

Радар зафиксировал загадочные показания на ранчо Скинуокер

Роботы отнимают у нас рабочие места и самоуважение

Самые населенные призраками острова - 3

Создание искусственных клеток для измерения потока энергии

Член экипажа Нимица упал за борт из-за НЛО

Экзозатменения можно использовать для выявления экзолун

Ярмарка НЛО в Пайн-Буше возвращается

Телескопы с автонаведением. Удобные инструменты для наблюдения звездного неба

Почему шумит холодильник

Возможно, скоро мы узнаем гораздо больше об НЛО

Вымерший тасманийский тигр попал на камеру

Высокоэнергетический мюонный пучок для поиска темной материи

Изучение экстремальных ситуаций в поисках жизни на Марсе

Марс может столкнуться с большим количеством астероидов

Мертвого робота сняли с орбиты Марса

Микроскопическое происхождение энтропии черных дыр

Моряк с Нимица рассказал об НЛО

На внешних планетах системы TRAPPIST-1 есть вода

Наилучшие доказательства древней жизни на Марсе

Нейтроны открывают окно для исследования космического стекла

НЛО приземлился рядом с военной базой ВВС США

Пирамиды построены вдоль давно исчезнувшей реки

План привлечения инопланетян на Землю

Пугающее предупреждение о портрете короля Чарльза

Путь к созданию более быстрых и гибких роботов

Телескоп впервые позволяет заглянуть внутрь экзопланеты

Технологии Star Trek могут сократить время полета на Марс

Фрагмент кометы взорвался над Испанией и Португалией

Экзопланета WASP-107 b слишком раздутая

Землеподобную планету нашил у сверххолодной звезды

ИИ ответит на сложные вопросы физики

Информация об НЛО станет достоянием общественности

Как материя погружается в черную дыру

Компания Neuralink надеется правильно установить имплантат

Мой прадедушка был лидером культа с дикими убеждениями

Наблюдение НЛО во время затмения вызвало интерес

НЛО приземлился на базе ВВС США Эллсуорт

НЛО пролетел мимо поля для гольфа в Абердине

Обнаружили сливающиеся квазары-близнецы

Обнаружили слияние самых удаленных черных дыр

Ответы на сложные вопросы о черных дырах

Подземная аномалия обнаружена вблизи пирамид в Гизе

Радар обнаружил НЛО над ранчо Скинуокер

Редкие нейтральные атомарно-углеродные поглотители

Робот из 'Черного зеркала' замечен на британской улице

Секреты, которые церковь скрывала десятилетиями

Формирование ключевого ингредиента для жизни

Формирование черных дыр с помощью натальных толчков

Четырехэтапное руководство по жизни на Марсе

Аниме. Жанры

Чикси - сеть ресторанов быстрого питания

Городок, где за детьми с привидениями гонятся призраки-убийцы

Гравитационные линзы могут фиксировать слияния черных дыр

Железо-сернистые минералы расскажут о первых микробах

Загадочный инцидент в Рендлшемском лесу

Закон заставит правительство рассекретить все фильмы об НЛО

Зарождение звезды, похожей на Солнце

Изображения ледяной оболочки Европы

ИИ раскроет секреты некодирующих генов

Искусственный интеллект может привести к гибели человечества

Люди будут жить в городах на Марсе в ближайшие 30 лет

Некоторые хитроумные способы поиска первичных черных дыр

Новые правила Папы не позволят наживаться на чудесах

Обнаружили три старейшие звезды во Вселенной

Почему полярные сияния так трудно предсказать

Сверхъестественные явления учащаются

У человечества нет значимой защиты от ИИ

Уфолог нашел нечто более тревожное, чем инопланетяне

Что Ватикан знает об инопланетянах

Экзопланета с плотностью как у сахарной ваты

Экзо-Сатурн теряет массу недостаточно быстро

Аниме. Отличительные особенности и причины популярности

Джордж Сорос. Финансист и благотворитель

Варп-двигатель возможен в рамках известной физики

Ватикан опубликовал руководство по сверхъестественному

Воскрешение людей подвергнутых криогенной заморозке

Доказательства существования инопланетян

Загадочный подземный вход рядом с Великой пирамидой

Западная Вирджиния является центром исследований НЛО

Захватывающие снимки ледяной Европы

Как древние египтяне строили пирамиды

Конференция Папы Франциска поднимает вопросы об НЛО

На кадрах НАСА видно, как НЛО разбился на Марсе

НАСА снабдит астронавтов роботизированными конечностями

НЛО заметили в Джайпуре

НЛО замечен над ранчо Скинуокер

Обнаружили признаки гигантских инопланетных электростанций

Разгадана ли, наконец, тайна египетских пирамид

Создали прозрачный бамбук

Сокрытие ключевой корреспонденции AATIP

Тайна пирамид, наконец, может быть разгадана

Уфологический туризм недалеко от горы Фудзи

Подписка на новости
Наверх