|
Установить контакт с инопланетянами не удалось из-за ИИ
|
|
|
|
За последние несколько лет искусственный интеллект (ИИ) развивался поразительными темпами. Некоторые ученые сейчас рассматривают возможность создания искусственного сверхинтеллекта (ИИС) — формы ИИ, которая не только превзойдет человеческий интеллект, но и не будет ограничена скоростью обучения людей. Но что, если эта веха - не просто выдающееся достижение? Что, если это также представляет собой серьезное препятствие в развитии всех цивилизаций, настолько сложное, что препятствует их долгосрочному выживанию? Эта идея лежит в основе исследовательской статьи, которую я недавно опубликовал в Acta Astronautica. Может ли искусственный интеллект стать "великим фильтром" Вселенной – порогом, который так трудно преодолеть, что он мешает большинству живых существ эволюционировать в космические цивилизации? Эта концепция может объяснить, почему программа поиска внеземного разума (SETI) до сих пор не обнаружила признаков существования высокоразвитых технических цивилизаций в других частях галактики.
|
|
|
|
Гипотеза великого фильтра, в конечном счете, является предлагаемым решением парадокса Ферми. Возникает вопрос, почему во Вселенной, достаточно обширной и древней, чтобы вмещать миллиарды потенциально обитаемых планет, мы не обнаружили никаких признаков инопланетных цивилизаций. Эта гипотеза предполагает, что на эволюционной шкале цивилизаций существуют непреодолимые препятствия, которые мешают им развиться в космические образования. Я полагаю, что появление ИИ могло бы стать таким фильтром. Быстрое развитие ИИ, потенциально ведущее к ИИИС, может совпасть с критической фазой в развитии цивилизации – переходом от однопланетного вида к многопланетному. Именно здесь многие цивилизации могут потерпеть неудачу, поскольку искусственный интеллект развивается гораздо быстрее, чем мы способны контролировать его или устойчиво исследовать и заселять нашу Солнечную систему. Сложность ИИ, и в частности ИСИ, заключается в его автономной, саморазвивающейся и улучшающейся природе. Он обладает потенциалом для расширения своих возможностей со скоростью, которая опережает наши собственные эволюционные сроки без ИИ.
|
|
|
Вероятность того, что что-то пойдет не так, огромна, что приведет к падению как биологических цивилизаций, так и цивилизаций с искусственным интеллектом еще до того, как они получат шанс стать многопланетными. Например, если страны будут все больше полагаться на автономные системы ИИ и уступать им власть, конкурирующие друг с другом, военные возможности могут быть использованы для убийств и разрушений в беспрецедентных масштабах. Потенциально это может привести к уничтожению всей нашей цивилизации, включая сами системы ИИ. В этом сценарии, по моим оценкам, типичная продолжительность жизни технологической цивилизации может составлять менее 100 лет. Это приблизительный промежуток времени между появлением возможности принимать и передавать сигналы между звездами (1960 год) и предполагаемым появлением ASI (2040 год) на Земле. Это пугающе мало по сравнению с космическими временными рамками в миллиарды лет. Эта оценка, если ее включить в оптимистические версии уравнения Дрейка, в которых делается попытка оценить количество активных, общительных внеземных цивилизаций в Млечном Пути, предполагает, что в любой момент времени существует лишь горстка разумных цивилизаций. Более того, как и у нас, их относительно скромная технологическая активность может затруднить их обнаружение.
|
|
|
|
Это исследование - не просто поучительная история о потенциальной гибели. Оно служит тревожным сигналом для человечества о необходимости создания надежной нормативно-правовой базы для управления разработкой ИИ, включая военные системы. Речь идет не только о предотвращении злонамеренного использования ИИ на Земле; речь также идет о том, чтобы обеспечить соответствие эволюции ИИ долгосрочному выживанию нашего вида. Это говорит о том, что нам нужно как можно скорее вложить больше ресурсов в создание многопланетного общества – цель, которая оставалась в тени со времен бурных дней проекта "Аполлон", но в последнее время вновь возродилась благодаря достижениям частных компаний. Как отметил историк Юваль Ной Харари, ничто в истории не подготовило нас к последствиям появления на нашей планете несознательных, сверхразумных существ. В последнее время последствия автономного принятия решений с помощью ИИ привели к тому, что видные лидеры в этой области призвали ввести мораторий на разработку ИИ до тех пор, пока не будет введена ответственная форма контроля и регулирования.
|
|
|
|
Но даже если бы каждая страна согласилась соблюдать строгие правила и регламентацию, мошеннические организации будет трудно обуздать. Интеграция автономного ИИ в системы военной обороны должна вызывать особую озабоченность. Уже есть свидетельства того, что люди добровольно уступят значительную часть своих полномочий все более совершенным системам, поскольку они могут выполнять полезные задачи гораздо быстрее и эффективнее без вмешательства человека. Поэтому правительства неохотно идут на регулирование в этой области, учитывая стратегические преимущества, которые предлагает искусственный интеллект, как это было недавно продемонстрировано в Газе. Это означает, что мы уже находимся в опасной близости от пропасти, где автономное оружие действует вне этических рамок и в обход международного права. В таком мире передача власти системам искусственного интеллекта для получения тактического преимущества может непреднамеренно привести к цепочке быстро нарастающих и крайне разрушительных событий.
|
|
|
|
В мгновение ока коллективный разум нашей планеты может быть уничтожен. Человечество находится на решающем этапе своей технологической траектории. От наших действий сейчас может зависеть, станем ли мы устойчивой межзвездной цивилизацией или поддадимся вызовам, исходящим от наших собственных творений. Использование SETI в качестве призмы, через которую мы можем рассматривать наше будущее развитие, добавляет новое измерение в дискуссию о будущем искусственного интеллекта. От всех нас зависит, чтобы, когда мы достигнем звезд, мы сделали это не как поучительную историю для других цивилизаций, а как маяк надежды – как вид, который научился процветать бок о бок с искусственным интеллектом.
|
|
|
|
Источник
|
