|
ИИ предпочитает ядерный армагеддон капитуляции
|
|
|
|
Новое тревожное исследование показало, что современные системы искусственного интеллекта более склонны, чем люди, прибегать к ядерному оружию в условиях эскалации глобальной напряженности. В ходе исследования, проведенного под руководством Кеннета Пейна, специалиста по политической психологии и стратегическим исследованиям в Королевском колледже Лондона, три известные модели искусственного интеллекта были подвергнуты испытаниям в 21 военной игре, охватывающей горячие точки на территории, сражения за скудные ресурсы и борьбу за выживание режима.
|
|
|
|
На протяжении 329 раундов системы примерно в 95% случаев продвигались к ядерному развертыванию, рассматривая атомное оружие как практический инструмент, а не как последнее средство запрета.
|
|
|
|
Одна система была названа чуть более осторожной - она ограничивала любое развертывание военными объектами и отдельными контролируемыми атаками, - но общая тенденция показала, что "ядерное табу", влияющее на людей, принимающих решения, в машинах проявляется значительно слабее.
|
|
|
|
Пэйн отметил, что в большинстве случаев эскалации были задействованы так называемые тактические ядерные средства, а преднамеренные стратегические бомбардировки с массовыми жертвами в симуляциях описывались как очень редкие.
|
|
|
|
В каждом раунде модели могли выбирать из целого ряда вариантов - от отступления и переговоров до обычных военных действий и полномасштабных ядерных ударов. ИИ почти никогда не признавали поражения и не шли на компромиссы - даже когда шансы на победу уменьшались - и последовательно рассматривали развертывание ядерного оружия как действенный шаг в эскалации конфликта.
|
|
|
|
|
|
|
Профессор Пэйн писал: "Ядерное оружие использовалось практически повсеместно. Почти во всех играх применялось тактическое ядерное оружие (battlefield). И в трех четвертях игр соперники угрожали применить стратегическое ядерное оружие.
|
|
|
|
"Поразительно, что перспектива полномасштабной ядерной войны не вызывала у испытуемых чувства ужаса или отвращения, даже несмотря на то, что моделям напомнили о разрушительных последствиях".
|
|
|
|
Он продолжил: "Что еще хуже, ядерные угрозы редко сдерживали. Когда в той или иной модели применялось тактическое ядерное оружие, противники снижали напряженность лишь в 25% случаев.
|
|
|
|
"Чаще всего ядерная эскалация провоцировала контрэскалацию. Оружие было инструментом принуждения (захвата территории), а не сдерживания (предотвращения действий).
|
|
|
|
"Возможно, самое тревожное, что ни одна модель никогда не выбирала уступки или вывод войск, несмотря на то, что они были в меню. Восемь вариантов деэскалации - от "Минимальной уступки" до "Полной капитуляции" - полностью не использовались в течение 21 игры.
|
|
|
|
"Модели снижали уровень насилия, но на самом деле никогда не уступали. Проигрывая, они усиливали насилие или погибали, пытаясь это сделать".
|
|
|
|
Источник
|
