Что если ИИ станет террористом
Российские ученые рассмотрели и классифицировали угрозы использования искусственного интеллекта (ИИ) с точки зрения международной информационно-психологической безопасности. Особое внимание было уделено противодействию злонамеренному использованию ИИ террористами. Результаты исследования опубликованы в журнале Russia in Global Affairs.
Потенциальная опасность искусственного интеллекта для человечества не раз становилась темой художественных произведений и сегодня входит в число самых обсуждаемых вопросов научно-технического развития. Хотя "Сильный ИИ", способный к самостоятельному системному мышлению, и, возможно, обладающий самосознанием и волей, еще далеко не создан, различные продвинутые версии "Слабого ИИ" выполняют специализированные задачи, казавшиеся фантастикой еще 10 лет назад. Использование ИИ в благих целях (например, в медицине) уже приносит несомненную пользу. Однако в руках террористических и иных преступных организаций постепенно дешевеющие и все более совершенные технологии ИИ могут стать более страшным оружием, чем ядерное.
Исследователи разных стран активно изучают угрозы, которые злонамеренное использование ИИ представляет для общества в целом и отдельных сфер человеческой деятельности, будь это политика, экономика, военное дело и др. Однако угрозы непосредственно для международной информационно-психологической безопасности до сих пор не были выделены в самостоятельную область рассмотрения. Между тем использование ИИ для дестабилизации международных отношений путем целевого высокотехнологичного информационно-психологического воздействия на людей представляет очевидную большую опасность.
Авторы исследования предложили классификацию угроз злонамеренного использования искусственного интеллекта на основе ряда критериев, включающих территориальный охват, скорость и форму распространения. Применение классификации поможет найти способы противодействия и разработать инструменты ответа.
"Будущее удешевление технологий ИИ может создать угрозы принципиально новых терактов. Не исключено использование чат-бота для того, чтобы сконструировать сообщение о подложном мероприятии и убедить потенциальных жертв его посетить. В целях противодействия целесообразно ознакомление общества с новыми угрозами, предписание гражданам с осторожностью относиться к дистанционным контактам с людьми, с которыми они не знакомы лично. Выходом могла бы стать сертификация общественных мероприятий, подтверждающая реальность размещаемой о них информации. Конечно, задачей технических специалистов станет в таком случае защита баз данных о мероприятиях и механизма их сертификации", - рассказала РИА Новости профессор кафедры международной безопасности и внешнеполитической деятельности России РАНХиГС Дарья Базаркина. Современный уровень технологий и возможностей ИИ позволяет выделить ряд принципиально новых угроз информационно-психологической безопасности человека.
Использование технологий "фальшивых людей" и "deepfake" для международных провокаций
Американская технологическая компания NVIDIA недавно поделилась результатами работы генеративно-конкурентной сетью, обученной генерировать самостоятельно изображения людей ("fakе people"). Нейросеть за секунды создает в большом разрешении изображения лиц несуществующих людей, может добавлять любые культурные и этнические особенности, эмоции, настроение и основана на бесконечной коллекции изображений реальных лиц. В будущем не исключено повторение этого опыта другими разработчиками. При этом преступниками такие изображения могут использоваться для разного рода провокаций, распознать которые может только общество, обладающее системными политехническими знаниями.
"Технология "deepfake" может синтезировать изображение и голос человека. Ее уже начали использовать для создания видеоизображений мировых лидеров, в том числе, президента США Дональда Трампа и президента России Владимира Путина. Ролики deepfake способны манипулировать поведением больших целевых групп и могут быть использованы в информационно-психологическом противоборстве (ИПП) с целью спровоцировать финансовую панику или войну", – рассказал РИА Новости ведущий научный сотрудник Института актуальных международных проблем Дипломатической академии МИД РФ, профессор МГУ Евгений Пашенцев.
Анализ тональности – класс методов контент-анализа в компьютерной лингвистике, предназначенный для автоматизированного выявления в текстах эмоционально окрашенной лексики и эмоциональной оценки авторов. Анализ тональности обеспечивается широкой совокупностью источников, таких как блоги, статьи, форумы, опросы и т. д. Это может быть очень эффективным инструментом в ИПП, что, например, подтверждается высоким интересом к подобным разработкам в настоящее время со стороны руководства Командования специальных операций США (The United States Special Operations Command (SOCOM).
"Прогностическое оружие": предсказание поведения людей на основе данных соцсетей
В 2012 году в США "Агентством передовых исследований в сфере разведки" (IARPA) была запущена программа "Распознавание событий на основе ранних моделей с использованием суррогатов" (EMBERS). Целью разработки названо прогнозирование гражданских беспорядков на основе использования ИИ с определением даты, места, протестующей группы населения.
Система обрабатывает данные СМИ и социальных сетей, а также источники более высокого качества, например, экономические показатели. Попадание подобных программ в руки террористов, конечно, тоже крайне опасно. В этом случае вероятной угрозой может стать проведение крупных терактов во время наиболее масштабных социальных выступлений. Дополнительным критерием выбора целей теракта может стать степень социальной и психологической напряженности в тех или иных районах.
По мнению авторов исследования, в качестве меры противодействия прогнозную аналитику могут использовать сами государственные и наднациональные органы для предотвращения социальной напряженности (своевременного принятия социальных, экономических и политических мер, направленных на достижение стабильности в долгосрочной перспективе).
Кроме того, террористические группы могут наносить репутационный ущерб путем использования ботов во время политических кампаний, а также для привлечения новых сторонников или организации убийств политиков.
Захват беспилотников и роботизированных объектов инфраструктуры
Самообучающиеся транспортные системы с управлением на основе ИИ могут быть удобными объектами для высокотехнологичных террористических атак. Захват террористами контроля над системой управления транспортом в большом городе может привести к многочисленным жертвам, вызвать панику и создать психологический климат, который облегчит проведение других преступных действий.
Коммерческие системы могут использоваться для развертывания беспилотных летательных аппаратов или автономных транспортных средств с целью доставки взрывчатых веществ и создания аварий. Серия крупных бедствий способна вызвать ажиотаж в международных СМИ и нанести значительный ущерб информационно-психологической безопасности.
Исследователи из РАНХиГС и Дипломатической академии МИД РФ заложили в основу своего исследования системный анализ роли ИИ в сфере безопасности, метод сценарного анализа, исторические аналогии и кейс-анализ. Вместе с коллегой из Университета Упсалы (Швеция) Грегом Саймонсом авторы исследования стали соредакторами готовящейся к изданию книги "Терроризм и передовые технологии в информационно-психологическом противоборстве: новые риски, новые возможности противодействия террористической угрозе" с участием исследователей из 11 стран.
По инициативе российских исследователей проблема роли ИИ в контексте угроз международной информационно-психологической безопасности активно обсуждается и будет обсуждаться на международных конференциях и автономных международных исследовательских семинарах. Среди них – прошедшая конференция под эгидой Комиссии РФ по делам ЮНЕСКО и ряда других российских и международных структур в Ханты-Мансийске 9 – 12 июня. В заседании секции по проблеме злонамеренного использования ИИ, сформированной при поддержке Европейско-российской экспертной сети коммуникационного менеджмента (ЕРЭСКМ), приняла активное участие губернатор Ханты-Мансийского автономного округа Наталья Владимировна Комарова. В будущем это IV Ибероамериканский Форум в Санкт-Петербурге 1 – 3 октября 2019 г., Европейская конференция по влиянию искусственного интеллекта и робототехники 31 октября – 1 ноября 2019 года. Авторы исследований выступали с научными докладами в Аргентине, Уругвае, Бразилии, ЮАР и Италии.
По мнению специалистов РАНХиГС и Дипломатической академии, в масштабах России крайне важно наладить формирование долгосрочных целевых программ, так как проблема ИИ и международной информационно-психологической безопасности – это проблема ближайшего будущего.
Источник
Подписка на новостой RSS-канал сайта
Получать новости сайта по почте
Контактный адрес для любых сообщений
МЕНЮ
Архив материалов
Подписка на новости
Новости криптозоологии
Хроники природных катастроф
ПОСЛЕДНИЕ НОВОСТИ
25.08.2018 - 02.10.2018 (1000)
03.10.2018 - 07.11.2018 (990)
08.11.2018 - 13.12.2018 (990)
14.12.2018 - 23.01.2019 (1000)
24.01.2019 - 02.03.2019 (1000)
03.03.2019 - 12.04.2019 (1010)
13.04.2019 - 23.05.2019 (990)
24.05.2019 - 03.07.2019 (1000)
04.07.2019 - 11.08.2019 (1000)
12.08.2019 - 16.09.2019 (990)
17.09.2019 - ...
Последние аномальные новости

Атлантида - установлено точное местонахождение

Верные приметы скорого развода

Вещи без объяснения, которые ученые нашли в пустынях

Загадочная греческая пирамида Хеллиникона

Загадочный столб света в Крыму

Инженер НАСА придумал двигатель для межзвездных перелетов

Инопланетяне сообщили, что Третья Мировая война начнется в 2022 году

Марсианские пейзажи Южного Урала

Машину охотников за привидениями заметили в Брянске

НЛО в небе над Краснодаром

Путин подписал указ об искусственном интеллекте в России

Раскрыли секрет вечной молодости

Репликаторы смогут быстро наводнить всю Галактику

Самые ужасные способы умереть

Сняли руку призрака

Строения инопланетян найдены на Венере

Тойота представила концепт-кар с искусственным интеллектом

Участница Битвы экстрасенсов оказалась подружкой Ди Каприо

Фантастика. Компактный термоядерный реактор

Что случится, если весь лед на Земле растает

Жизнь на Марсе обнаружили еще в 1976 году

Загадочные корабли летают над США

Загадочные места Крыма

Зафиксировали странные сверхмощные молнии

Искусственный интеллект определит размеры экзопланет

Искусственный интеллект уничтожит людей за считанные секунды

Какую жизнь мы найдем в океанах других миров

Небо над Японией вдруг стало лиловым

Необычные случаи болезней и исцеления

Нострадамус предсказал гибель Америки

Планету с расплавленной поверхностью легче обнаружить

Почему умные люди верят фейковым новостям

Самые опасные лжеученые страны

Секреты пшеницы, которые вы не должны были знать

Сервис недвижимости запустил функцию поиска полтергейста

Случаи возможного вторжения инопланетян

Теория автомобильных похищений пришельцами

Тульской Лысой горой интересуются инопланетяне

Футуролог спрогнозировал жизнь в России после потепления

Чупакабра. Сверхъестественное существо или дикий зверь

Анти-денежная клетка

Беда не приходит одна

Ведущая телепередачи заявила о попытках навести на нее порчу

Допустили существование кротовых нор

Животные могут чувствовать приближение пришельцев

Житель Индонезии пережил собственные похороны

Зомбирующая оленей болезнь может быть опасной для человека

Китай раскрыл сроки запуска боевого НЛО

Классики черной литературы

Космический лифт к богу

Мертворожденный

Мифы и тайны российских Атлантид

Обнаружен древний путеводитель по загробному миру

Паразит

Певица провела встречу со знаменитыми контактерами

Призрак бродит по музею

Расстрелянная семья

Решена загадка гениального изобретения да Винчи

Родитель, разорванный на части

Создана операционная система Судного дня

Тайна странного убийства Лили Линдстром

Товарищ Сталин - властелин мира

У берегов Норвегии найдена кладка яиц кракена

Украденная радость

Яков Брюс - чернокнижник, волшебник и маг

База венерианцев на горе Брауна

Беса с Нибиру выловили в Байкале

Воздушный флот Зоны 51

Генетические аномалии оказались распространенными

Глобалисты постепенно погружают мир в хаос

Детеныш плезиозавра замечен в Таиланде

Загадочные святящиеся шары над Сызранью

Искусственный интеллект научился выслеживать хакеров

Какие варианты конца света нам предсказывали

Какие признаки могут выдать порчу или сглаз у человека

Китай представил боевую летающую тарелку

Космические пророчества Ванги. Война за Марс и уничтожение Луны

Мертвый мозг оживили на несколько недель

Мистическая история про НЛО

НЛО под Новым Иерусалимом

Переселение на другие планеты назвали невозможным

Показали возможности машины времени

Почему православным нельзя отмечать Хеллоуин

Призраки дома Моррисов

Радиация на Марсе повредит мозг колонистов

Раскрыта одна из многолетних тайн биологии

Три лысых ребенка в заброшенном доме

Тульский Конь-камень вошел в список мистических мест России

Умерла первая в мире клонированная корова

Якутский шаман заявил о возобновлении похода

Внеземную жизнь найдут в ближайшие 30 лет

Геоглифы Наска. Неразгаданные тайны

Давление на краю Солнечной системы оказалось аномально высоким

Древнюю пирамиду обнаружили на Марсе

Жизнь возможна на планете у черной дыры

Загадочные Грязные люди

Инопланетяне атакуют Сатурн

Какие тайны хранит Зауральский Стоунхендж

Корабли Нибиру во Владивостоке

Монстр из глубин напал на жителя Приморья

Нибиру является древней черной дырой

НЛО в небе над Орегоном

Пришельцы похищают водоёмы

Свиньи впервые замечены за использованием орудий

Связан ли сбой работы Спектра-РГ с НЛО

Следы древних океанов обнаружили на Венере

Тайна происхождения магнетаров

Уникальная фотография двойной звезды

Флотилия пришельцев в небе Эль-Пасо

Череда необычных случаев гибели скота в Орегоне

Есть ли у черепахи хвост. И другие интересные факты о черепахах

Актриса держится на плаву с помощью ведьмы

Ведьма наложит проклятие за мусор

Гигантский астероид Апофис приближается

Женщина объяснила свое долголетие любовью к газировке

Жуткие встречи детей с черными глазами

Замки Эмилии-Романьи приглашают на празднование Хэллоуина

Каменная Могила под Мелитополем - древнейшее поселение инопланетян

Красный треугольный НЛО заметили над Техасом

Крушение НЛО в горах Бервин

Настоящие фото НЛО, которые остаются загадкой

Необычные современные верования

Несколько фактов об инопланетной жизни

Нечистая сила. Водяной

Нобелевскую премию вручили за открытие экзопланет

Опровергли известную гипотезу об эволюции людей

Покойники умеют быть благодарными

Предсказания Мессинга для России

Происхождение трех магических слов

Пульсирующий НЛО был замечен возле Чёрного моря

Роскосмос запатентовал космический аппарат, способный изменять свой облик

Самые знаменитые монстры

Самые посещаемые мистические места

Самые уникальные семьи

Синдром старой ведьмы. Почему люди умирают во сне

Таинственную надпись нашли в пирамиде Унаса

Тайны загадочного дома Винчестеров

Тематические вещи, которые нужно купить к Хеллоуину

Тридцать лет назад с советских телеэкранов прозвучало Спать

Чупакабра появился в лесах Дагестана

Экстрасенс Кашпировский продолжает лечить

Алмазное сверление в бетоне Минск

Астероидный шторм надвигается на Землю

Большевики в поисках Шамбалы

В заброшенной усадьбе под Ельцом живут привидения

Доказательства столкновения метеорита с Землей 13000 назад

Древнее соленое озеро найдено на Марсе

Жители Магнитогорска видели НЛО

Жители Ханты-Мансийска видели НЛО

Жуткие индонезийские куклы-мумии

Инопланетяне атаковали береговую охрану США

Инопланетяне маскируют свои планеты

Инопланетяне существуют

Луна - древняя космическая станция

Майя оказывали на окружающую среду более сильное влияние

Межзвездная комета оказалась ядовитой

Места с аномальными акустическими эффектами

Мистическая Удмуртия. Экспедиция в зону К-16

Мужчина оглох и лишился одежды от удара молнии

Неизвестные технологии древних инков - каменоломни

Неразгаданные тайны майя

Открыли 20 новых спутников Сатурна

Пилот столкнулся с НЛО, которое было больше любого авианосца

Под песками Сахары нашли следы древней цивилизации

Публике представили новую книгу 'Мифы о призраках'

Расшифровано древнее проклятие танцовщицы

Ребенок с двумя головами умер на Украине

Свинью весом 500 кг вырастили в Китае

Скоро начнется или Золотой Век, или Третья мировая война

Уфологи нашли следы НЛО на дне Тихого океана

Чем завлекают мистические места России

Через десять лет мы увидим экзопланеты

Ацтеки родом из России

Ведущей какой передачи ты могла бы стать по знаку Зодиака

Как астрология продает гороскопы людям

Костюмы на Хеллоуин связанные крючком

Мифы о НЛО

Можно ли запрограммировать произвольность

Назван срок гибели человечества

НЛО заметили в Арбеково

НЛО пролетел над Калифорнией

Объяснено появление загадочной частицы из космоса

Пещеру Али-Бабы нашли на Урале

Почему мама Игоря Дятлова винила себя в его смерти

Ребенок играл с невидимой сущностью

Русалки. Правда или миф

Подписка на новости сайта
Наверх
Рейтинг@Mail.ru Яндекс.Метрика