|
Через два года настанет время роботов-убийц
|
|
|
|
«Назад!»
|
|
|
|
Голос разносится на расстояние трех километров.
|
|
|
|
«Назад, или открываем огонь!»
|
|
|
|
Говорящий — не человек, и люди не помогают ему обнаружить цель и поворачивать дуло тяжелого пулемета, угрожающе следуя за приближающимся автомобилем. Южнокорейский робот Super aEgisII проделывает все это автоматически. Единственное, чего он не делает сам, — это стрельба.
|
 |
|
Вернее, стрелять самостоятельно ему нельзя.
|
|
|
|
«Прототип мог автоматически открывать огонь, но все наши клиенты предпочитали установить барьер безопасности. Технически это не проблема, но они беспокоятся, что робот может ошибиться», — рассказывает BBC инженер из компании-производителя робота DoDAAM Чен Сук Парк (Jungsuk Park).
|
|
|
|
Вот будущее военных технологий.
|
|
|
|
Задачи в демилитаризованной зоне между Северной и Южной Кореей, где установлены Super aEgisII, весьма просты — отстрелять тех, кто пересекает поле. Super aEgisII не отличает своих от чужих, и — что, вероятно, намного более критично — он не способен учиться на ошибках.
|
|
|
|
Пока.
|
|
|
|
Один грамм взрывчатки
|
|
|
|
Вооруженный механизм может доставить большие неприятности, даже если он не оснащен человеческим интеллектом.
|
|
|
|
Вооруженные дроны уже широко применяются, во всяком случае, американские Reaper — беспилотные летательные аппараты, послушно обстреливающие ракетами подозреваемых в терроризме. Но Reaper — не роботы, ими управляют с американских баз, и решения о том, кого убивать и как, принимаются людьми.
|
|
|
|
Полностью автономное оружие — это другое дело. Машины сами решают, кому умереть, люди не влияют на их выбор.
|
|
|
|
Короче говоря, речь идет о роботах-убийцах.
|
|
|
|
Стюарт Расселл (Stuart Russell), профессор информатики в Университете Беркли в Калифорнии, уточняет, что, говоря о роботах-убийцах, мы не должны представлять себе Арнольда Шварценеггера (Arnold Schwarzenegger) в «Терминаторе», скорее — тысячи квадрокоптеров три-четыре сантиметра в диаметре, каждый из которых оснащен одним граммом взрывчатки — зарядом, достаточным, чтобы пробить человеческий череп.
|
|
|
|
Такие дроны запрограммированы на поиск, распознавание и уничтожение тысяч объектов.
|
|
|
|
«Появятся производители, выпускающие миллионы таких вооружений, и их можно будет купить, как сейчас покупают ружье, с той лишь разницей, что миллион ружей бессмысленны, если нет миллиона солдат. А чтобы запрограммировать и выпустить дроны, нужно всего три человека. Только представьте себе, какая охота на людей начнется во многих частях мира», — говорит Стюарт Расселл Buzzfeed.
|
|
|
|
Он полагает, что она может стартовать через два-три года.
|
|
|
|
«Собственно, не требуется никаких технологических прорывов. Каждая технология уже имеется в коммерческом доступе в той или иной форме. Вопрос лишь в размере инвестиций», — продолжает Стюарт Расселл.
|
|
|
|
Нужен запрет
|
|
|
|
Похоже на запугивание или научную фантастику?
|
|
|
|
Многие выдающиеся ученые в области искусственного интеллекта так не думают. Они открыто требуют запретить автономное оружие. В открытом письме, подписанном такими знаменитостями, как глава Tesla Илон Маск (Elon Musk), физик Стивен Хокинг (Stephen Hawking) и соучредитель Apple Стив Возняк (Steve Wozniak), подчеркивается, что автономное оружие может стать реальностью уже «в ближайшие годы, а не десятилетия».
|
|
|
|
«Автономное оружие идеально для таких целей, как заказные убийства, национальная дестабилизация, угнетение населения, выборочная ликвидация отдельных этнических групп», — пишут ученые, которые также предупреждают, что может начаться новая гонка вооружений.
|
|
|
|
Окружение и уничтожение кораблей
|
|
|
|
Но развитие все более автономных типов вооружений продолжается, одни проекты открыты, другие засекречены.
|
|
|
|
Агентство по перспективным оборонным научно-исследовательским разработкам США (DARPA) показало в программе CODE, как стая беспилотников Reaper обыскивает обозначенный район, докладывает о найденных целях, например, танках, и по команде уничтожает их.
|
|
|
|
Американское Управление военно-морских исследований (ONR) открыто продемонстрировало прием, когда большая группа лодок-роботов полностью автоматически и синхронно окружает вражеские корабли. «Новая технология позволяет лодкам находить, сдерживать и уничтожать атакующего врага», — сообщило ONR в проектном отчете. Роботы сами поддерживают связь друг с другом, вмешательство человека в их действия минимально.
|
|
|
|
Роботы моральнее людей
|
|
|
|
Сторонники роботов-убийц выделяют несколько весомых преимуществ.
|
|
|
|
— Скорее всего, использование роботов будет дешевле, чем обучение, содержание, транспортировка и оснащение обычных военных.
|
|
|
|
— Их можно применять в опасных ситуациях, не рискуя жизнями солдат.
|
|
|
|
— Роботы моральнее людей: если машина не запрограммирована на совершение военных преступлений, то она и не будет этого делать.
|
|
|
|
— У них нет инстинкта самосохранения, они не склонны принимать необдуманные решения из-за страха или неправильного понимания ситуации.
|
|
|
|
Снижение порога войны
|
|
|
|
Угрозы не менее очевидны.
|
|
|
|
— Роботы снизят порог развязывания войн. Применить военные средства проще, когда не рискуешь жизнями собственных солдат.
|
|
|
|
— Доступ к новейшим вооружениям будет лишь у богатых и могущественных игроков.
|
|
|
|
— Роботы станут новым средством угнетения населения в диктатурах.
|
|
|
|
«Ими будут пользоваться диктаторы и тираны, которым сейчас нередко бывает трудно убедить военных применить силу против собственного народа. Мы видели такую ситуацию в Египте, военные отказались атаковать народ на площади Тахрир», — рассказывает Питер Уоррен Сингер (Peter Warren Singer), специалист по военным роботам и сотрудник аналитического центра New America в Вашингтоне.
|
|
|
|
Прогресс не остановить
|
|
|
|
Профессор информатики в университете Умео Тумас Хелльстрём (Thomas Hellstrom) возглавляет исследовательскую группу Intelligent Robotics, которая изучает варианты конструкций боевых роботов.
|
|
|
|
Он считает, что прогресс уже не остановить.
|
|
|
|
«Если быть реалистом, то в долгосрочной перспективе это будет сложно. Если результаты исследований окажутся применимы на практике, их обязательно используют в военных целях, несмотря на активные протесты в среде ученых-робототехников, — говорит Тумас Хелльстрём. — Развитие дронов продолжается. Такие системы относительно легко снабдить функцией автоматической стрельбы, а у политиков не возникнет больших сложностей с утаиванием обстоятельств. Думаю, мало кого волнует, кто именно пустил ракету в Афганистане — сидящий в Неваде оператор или сам летательный аппарат».
|
|
|
|
При этом Хелльстрём не считает неизбежным появление думающих антропоморфных роботов.
|
|
|
|
«Большая общая проблема всех роботов заключается в том, что они не способны чувствовать окружение и давать корректную оценку происходящего, что отлично получается у людей: мыслить здраво. Даже человеку бывает непросто отличить мирного жителя от солдата, а для робота это по большому счету нереально. Это чисто технический момент. И даже если решить эту проблему, остается вопрос этических рамок. На основании чего робот делает вывод о правильности или неправильности действий?» — продолжает Тумас Хелльстрём.
|
|
|
|
Он не уверен, что маленькие квадрокоптеры, о которых говорит Стюарт Расселл, способны отличать друзей от врагов.
|
|
|
|
«Это будет как кассетная бомба, убивающая всех без разбора. Компьютер не отличит ребенка с прутиком от взрослого мужчины с ружьем. Такие задачи не решаемы даже в перспективе».
|
|
|
|
Роботы, которые уже существуют
|
|
|
|
Одна техасская фирма построила «Купидон» (Cupid) — летающий беспилотник для охраны дома. Обнаружив взломщика, «Купидон» просит его удалиться, а если несчастный не подчиняется, то получает электрический разряд в 80 тысяч вольт.
|
|
|
|
Американский флот уже давно использует системы «Иджис» (Aegis) и «Фаланкс» (Phalanx) для защиты от вражеских ракет. «Фаланкс» построена на основе 20-миллиметровой пушки Гатлинга и может самостоятельно, то есть без помощи человека, обнаруживать, идентифицировать и сбивать приближающиеся снаряды.
|
|
|
|
Русские СМИ сообщают, что Россия разработала «Железного человека» — робота, «способного заменить человека в бою».
|
|
|
|
В Северной Дакоте действует закон, позволяющий полиции оснащать свои беспилотники электрошоковым оружием или оружием, стреляющим резиновыми пулями.
|
|
|
|
http://inosmi.ru/military/20161030/238104777.html
|
