Что если ИИ станет террористом
Российские ученые рассмотрели и классифицировали угрозы использования искусственного интеллекта (ИИ) с точки зрения международной информационно-психологической безопасности. Особое внимание было уделено противодействию злонамеренному использованию ИИ террористами. Результаты исследования опубликованы в журнале Russia in Global Affairs.
Потенциальная опасность искусственного интеллекта для человечества не раз становилась темой художественных произведений и сегодня входит в число самых обсуждаемых вопросов научно-технического развития. Хотя "Сильный ИИ", способный к самостоятельному системному мышлению, и, возможно, обладающий самосознанием и волей, еще далеко не создан, различные продвинутые версии "Слабого ИИ" выполняют специализированные задачи, казавшиеся фантастикой еще 10 лет назад. Использование ИИ в благих целях (например, в медицине) уже приносит несомненную пользу. Однако в руках террористических и иных преступных организаций постепенно дешевеющие и все более совершенные технологии ИИ могут стать более страшным оружием, чем ядерное.
Исследователи разных стран активно изучают угрозы, которые злонамеренное использование ИИ представляет для общества в целом и отдельных сфер человеческой деятельности, будь это политика, экономика, военное дело и др. Однако угрозы непосредственно для международной информационно-психологической безопасности до сих пор не были выделены в самостоятельную область рассмотрения. Между тем использование ИИ для дестабилизации международных отношений путем целевого высокотехнологичного информационно-психологического воздействия на людей представляет очевидную большую опасность.
Авторы исследования предложили классификацию угроз злонамеренного использования искусственного интеллекта на основе ряда критериев, включающих территориальный охват, скорость и форму распространения. Применение классификации поможет найти способы противодействия и разработать инструменты ответа.
"Будущее удешевление технологий ИИ может создать угрозы принципиально новых терактов. Не исключено использование чат-бота для того, чтобы сконструировать сообщение о подложном мероприятии и убедить потенциальных жертв его посетить. В целях противодействия целесообразно ознакомление общества с новыми угрозами, предписание гражданам с осторожностью относиться к дистанционным контактам с людьми, с которыми они не знакомы лично. Выходом могла бы стать сертификация общественных мероприятий, подтверждающая реальность размещаемой о них информации. Конечно, задачей технических специалистов станет в таком случае защита баз данных о мероприятиях и механизма их сертификации", - рассказала РИА Новости профессор кафедры международной безопасности и внешнеполитической деятельности России РАНХиГС Дарья Базаркина. Современный уровень технологий и возможностей ИИ позволяет выделить ряд принципиально новых угроз информационно-психологической безопасности человека.
Использование технологий "фальшивых людей" и "deepfake" для международных провокаций
Американская технологическая компания NVIDIA недавно поделилась результатами работы генеративно-конкурентной сетью, обученной генерировать самостоятельно изображения людей ("fakе people"). Нейросеть за секунды создает в большом разрешении изображения лиц несуществующих людей, может добавлять любые культурные и этнические особенности, эмоции, настроение и основана на бесконечной коллекции изображений реальных лиц. В будущем не исключено повторение этого опыта другими разработчиками. При этом преступниками такие изображения могут использоваться для разного рода провокаций, распознать которые может только общество, обладающее системными политехническими знаниями.
"Технология "deepfake" может синтезировать изображение и голос человека. Ее уже начали использовать для создания видеоизображений мировых лидеров, в том числе, президента США Дональда Трампа и президента России Владимира Путина. Ролики deepfake способны манипулировать поведением больших целевых групп и могут быть использованы в информационно-психологическом противоборстве (ИПП) с целью спровоцировать финансовую панику или войну", – рассказал РИА Новости ведущий научный сотрудник Института актуальных международных проблем Дипломатической академии МИД РФ, профессор МГУ Евгений Пашенцев.
Анализ тональности – класс методов контент-анализа в компьютерной лингвистике, предназначенный для автоматизированного выявления в текстах эмоционально окрашенной лексики и эмоциональной оценки авторов. Анализ тональности обеспечивается широкой совокупностью источников, таких как блоги, статьи, форумы, опросы и т. д. Это может быть очень эффективным инструментом в ИПП, что, например, подтверждается высоким интересом к подобным разработкам в настоящее время со стороны руководства Командования специальных операций США (The United States Special Operations Command (SOCOM).
"Прогностическое оружие": предсказание поведения людей на основе данных соцсетей
В 2012 году в США "Агентством передовых исследований в сфере разведки" (IARPA) была запущена программа "Распознавание событий на основе ранних моделей с использованием суррогатов" (EMBERS). Целью разработки названо прогнозирование гражданских беспорядков на основе использования ИИ с определением даты, места, протестующей группы населения.
Система обрабатывает данные СМИ и социальных сетей, а также источники более высокого качества, например, экономические показатели. Попадание подобных программ в руки террористов, конечно, тоже крайне опасно. В этом случае вероятной угрозой может стать проведение крупных терактов во время наиболее масштабных социальных выступлений. Дополнительным критерием выбора целей теракта может стать степень социальной и психологической напряженности в тех или иных районах.
По мнению авторов исследования, в качестве меры противодействия прогнозную аналитику могут использовать сами государственные и наднациональные органы для предотвращения социальной напряженности (своевременного принятия социальных, экономических и политических мер, направленных на достижение стабильности в долгосрочной перспективе).
Кроме того, террористические группы могут наносить репутационный ущерб путем использования ботов во время политических кампаний, а также для привлечения новых сторонников или организации убийств политиков.
Захват беспилотников и роботизированных объектов инфраструктуры
Самообучающиеся транспортные системы с управлением на основе ИИ могут быть удобными объектами для высокотехнологичных террористических атак. Захват террористами контроля над системой управления транспортом в большом городе может привести к многочисленным жертвам, вызвать панику и создать психологический климат, который облегчит проведение других преступных действий.
Коммерческие системы могут использоваться для развертывания беспилотных летательных аппаратов или автономных транспортных средств с целью доставки взрывчатых веществ и создания аварий. Серия крупных бедствий способна вызвать ажиотаж в международных СМИ и нанести значительный ущерб информационно-психологической безопасности.
Исследователи из РАНХиГС и Дипломатической академии МИД РФ заложили в основу своего исследования системный анализ роли ИИ в сфере безопасности, метод сценарного анализа, исторические аналогии и кейс-анализ. Вместе с коллегой из Университета Упсалы (Швеция) Грегом Саймонсом авторы исследования стали соредакторами готовящейся к изданию книги "Терроризм и передовые технологии в информационно-психологическом противоборстве: новые риски, новые возможности противодействия террористической угрозе" с участием исследователей из 11 стран.
По инициативе российских исследователей проблема роли ИИ в контексте угроз международной информационно-психологической безопасности активно обсуждается и будет обсуждаться на международных конференциях и автономных международных исследовательских семинарах. Среди них – прошедшая конференция под эгидой Комиссии РФ по делам ЮНЕСКО и ряда других российских и международных структур в Ханты-Мансийске 9 – 12 июня. В заседании секции по проблеме злонамеренного использования ИИ, сформированной при поддержке Европейско-российской экспертной сети коммуникационного менеджмента (ЕРЭСКМ), приняла активное участие губернатор Ханты-Мансийского автономного округа Наталья Владимировна Комарова. В будущем это IV Ибероамериканский Форум в Санкт-Петербурге 1 – 3 октября 2019 г., Европейская конференция по влиянию искусственного интеллекта и робототехники 31 октября – 1 ноября 2019 года. Авторы исследований выступали с научными докладами в Аргентине, Уругвае, Бразилии, ЮАР и Италии.
По мнению специалистов РАНХиГС и Дипломатической академии, в масштабах России крайне важно наладить формирование долгосрочных целевых программ, так как проблема ИИ и международной информационно-психологической безопасности – это проблема ближайшего будущего.
Источник
Подписка на новостой RSS-канал сайта
Получать новости сайта по почте
Контактный адрес для любых сообщений
МЕНЮ
Архив материалов
Подписка на новости
Новости криптозоологии
Хроники природных катастроф
ПОСЛЕДНИЕ НОВОСТИ
19.07.2018 - 24.08.2018 (1000)
25.08.2018 - 02.10.2018 (1000)
03.10.2018 - 07.11.2018 (990)
08.11.2018 - 13.12.2018 (990)
14.12.2018 - 23.01.2019 (1000)
24.01.2019 - 02.03.2019 (1000)
03.03.2019 - 12.04.2019 (1010)
13.04.2019 - 23.05.2019 (990)
24.05.2019 - 03.07.2019 (1000)
04.07.2019 - ...
Последние аномальные новости

Астронавты резвятся на Луне

В бункере управления миром включили печку

Вокруг нашего дома бегали монстры

Вселенная расширяется медленнее, чем считалось

Группу жутких червей сняли в Бразилии

Закулисные кукловоды американской политики

ИИ может собрать кубика Рубика за долю секунды

Кальмара-поросенка нашли в Тихом океане

Миллион человек собрались штурмовать Зону 51

Момент, с которого пошел отсчет Третьей мировой войны

Мужчина застрелен при попытке проникнуть в Зону 51

Наблюдения НЛО стремительно растут

Начали реставрировать саркофаг Тутанхамона

Необычная черта всех радиосигналов пришельцев

Необычный объект на дне Балтийского моря

Новая версия о гибели рейса MH370

О каких болезнях сигнализируют морщины

Пентагон будет защищать Зону 51

Пилотируемая миссия на Марс может состояться в 2033 году

Показали способ чтения мыслей

Поставили под сомнение модели рождения экзопланет

Радиотелескоп поищет экзопланеты с магнитным полем

Стоунхендж построили при помощи свиного жира

Теперь курицу могут создавать из гороха

Уникальные особенности мозга аутистов

Уфолог нашел инопланетные структуры

Шансы на столкновение Земли с астероидом в сентябре

Штурм Зоны 51. ВВС США совсем не смешно

Эксперт рассказал о секретах Зоны 51

Экстрасенс Мэрилин Керро ждет второго ребенка

Военные пригрозили смертью собравшимся атаковать Зону 51

Гигантскую медузу обнаружили у берегов Англии

Десять тайн древних ариев

Жуткая ночь в Десото

Запретная археология Мексики

Звезда YouTube предрекла свою смерть

Звезды встречавшиеся с инопланетянами

Инопланетяне усмирили торнадо

Исчезнувшая колония Роанок

Когда искусственный интеллект научится рассуждать

Корабль для полетов на Марс попытается оторваться от Земли

Мраморная пирамида обнаружена на острове Эгейского моря

Нибиру готова к вторжению на Землю

Охотники за привидениями обосновались в Воронеже

Пентагон советует отказаться от штурма Зоны 51

Почему ученые не могут обнаружить темную материю

Предсказания на 2019 год для России и всего мира

Пророчество Ванги о конце света

Путешественник во времени сознался в обмане

Разряд молнии ударил в НЛО над Эль-Пасо

Роботы заберут в России шесть миллионов рабочих мест

Создали чудо-таблетку для лечения диабета и артрита

Старейшее в мире сообщество паранормальщиков

США захотели вернуться на Луну с помощью России

Тайна появления подземного океана в недрах Земли

Телеведущий назвал сына реинкарнацией принцессы Дианы

Терраформировать Марс предложили теплицами

Уфолог рассекретил местонахождение инопланетян

Фото тени черной дыры ограничила массу темной материи

Шанхайские туннели в Портленде. Мистика и тайны

Адмирал США нашёл подземную цивилизацию

Влияние ведьм и колдунов на мировых лидеров

Вот уже 30 лет никто не может расшифровать послание на скульптуре

Группу Дятлова убили из-за жалобы на начальника лесоучастка

Женщина утверждает, что выглядит моложе благодаря магии

Загадочные колебания в биоразнообразии древних морских животных

Зона 51. Свободу инопланетянам

Инопланетяне совершили аварийную посадку

Искусственному интеллекту доверили ракеты

Мифология Индии под завязку наполнена людоедами и кровопийцами

Над Волгой запечатлён загадочный объект

НЛО над минским микрорайоном Красный Бор

Открыли новую частицу

Пауэрлифтер установил рекорд по жиму лежа

Пиктограмма на зерновом поле в Швейцарии

Почему американцы не вернулись на Луну

Почему у большинства крупных экзопланет отсутствуют луны

Самые странные археологические находки

Секс во сне - признак истощения организма

Цикл Нибиру работает

Когда рассказывать ребенку, что Деда Мороза не существует

А были ли американцы на Луне

Апокалиптические облака над Воронежом

Все на штурм Зоны 51

Жизнь на Марсе. Это будем мы

Загадочный Филадельфийский эксперимент

Инопланетяне снова посетили Ватикан

Легендарные мистические кладбища

Ломаную пирамиду впервые открыли для посетителей

Марсианские дома будущего

Мистика и легенды Московского Кремля

Мистические ритуалы Пуэрто-Рико

Мистические явления, имеющие научное объяснение

На острове Пасхи расположена кнопка Апокалипсиса

НАСА выпустило юбилейное видео с 4000 экзопланет

Неестественно красное солнце взошло над Новосибирском

НЛО пролетел над Новосибирском

Отель с призраками в Техасе

Пришельцы в Новой Англии. Истории очевидцев

Проклятье затонувшего корабля

Сфотографировали квантовую запутанность

Гармоничное воспитание. Как Вам избежать школьных трудностей

Безопасные места на случай зомбиапокалипсиса

Девушка предсказала свою смерть в пожаре

ИИ начал понимать языки лучше человека

ИИ обучили распознавать эмоции по походке

Искусственное мясо вскоре вытеснит настоящее

К чему снятся умершие родственники

Муж изгнал из жены нечистую силу

НАСА удалило все данные об инопланетянах на Луне

НЛО в небе над Гродно

Открыли опасный астероид-невидимку

Подробности обнаружения Балтийской аномалии

Пользователей призвали штурмовать Зону 51

Пророчества Нострадамуса. Россию ждут кардинальные перемены

Разоблачена тайна дольменов

Родился ребенок с черным пятном на все лицо

Россиянин прожил 60 лет почти без мозгов

Странные вещи происходят по ночам над Бразилией

Тамбов посетила Служба охотников за ведьмами

Убитая под Полтавой чупакабра оказалась лисой

Холод в Европе вызывает вихревая воронка в ядре Земли

Артефакты инопланетян нашли на Марсе

Военная геофизика и тектоническое оружие

Возле экзопланеты обнаружили протолунный диск

Девочка с головой набок

Загадочные сигналы из космоса

ИИ обыграл всех лучших игроков в покер

Инопланетяне контролируют наводнение в Индии

Инопланетяне сорвали запуск европейской Веги

Модель Стоунхенджа показала, как звучал древний памятник

Найден опровергающий законы физики объект

Никола Тесла. Самые удивительные изобретения великого гения

НЛО едва не столкнулся с самолетом над Челябинском

Певец почувствовал присутствие призрака в своем доме

Пересмотрены сроки появления человечества на Земле

Привидение в шкафу одного из хостелов в Кузьминках

Пришельцы на причудливом корабле приблизились к МКС

Рыбаки сняли НЛО в Пензе

Травяной смерч сняли в Великобритании

Человек-дерево вернулся к нормальной жизни

Что делать, если приснился бывший

Безумная энергия Никола Тесла

Врата Богов Араму Муру

Джинн из зеркала

Женщина переехала в старый дом и испугалась проклятия

Живые камни Долины Смерти

Зеркало с распродажи

Зеркало с чердака

Зловещие тайны сквера Юности Кемерово

Какие камни подходят Ракам-женщинам

Климатические изменения на планете - следствие ускорения времени

Когда найдут полного двойника Земли

Комсомольский парк Кемерово

Кошмарное зеркало

Легенды о подземельях Кемерово

Недострои и заброшки Кемерово

НЛО пролетел около истребителя ВВС США

Огромный древний город обнаружен в Мексике

Подводные лодки будущего будут напоминать летающие тарелки

Прибрежная сельва Кемерово и дельта реки

Продажи гомеопатических средств падают

Пропавший из едущего автобуса

Пропажа людей в национальных парках Америки

Расстрельные пункты Кемерово

Редкая болезнь заставила девочку прятаться от солнца

Сросшиеся головами близнецы отметили 18-летие

Театры, где живут призраки

Ужасы Кирзавода Кемерово

Шедевры искусства завалены изображениями инопланетян

Эволюция экзопланет

Юноша ожил после того, как врачи признали его мертвым

Антенна LISA найдет планеты у двойных белых карликов

Астероид может поразить Землю в октябре

В Суземской библиотеке можно узнать все тайны мира

Две подлодки времен Второй Мировой таинственным образом исчезли

Доказано скрещивание людей с другим видом

Есть ли жизнь на Марсе

Жители Бруклина жалуются на странный звук

Загадочный огонек Гэрдона

Замок с привидением никак не могут продать

Зачем человеку второй геном

Из-за чего возникают массовые галлюцинации

Инопланетяне приостановили раскопки в пирамиде Хеопса

Истребители США оснастят датчиками для обнаружения НЛО

Крылатое существо заметили над Дагестаном

Подписка на новости сайта
Наверх
Рейтинг@Mail.ru Яндекс.Метрика