Инопланетный вид направляется к планете Земля, и у нас нет оснований полагать, что он будет дружелюбным. Некоторые эксперты предсказывают, что он появится здесь в течение 30 лет, в то время как другие настаивают на том, что он появится гораздо раньше. Никто не знает, как они будут выглядеть, но у них будут общие с нами, людьми, две ключевые черты: он будет разумным и самосознательным. Нет, этот инопланетянин не придет с далекой планеты — он родится прямо здесь, на Земле, вылупится в исследовательской лаборатории крупного университета или крупной корпорации. Я имею в виду первый искусственный общий интеллект (AGI), который достигает (или превосходит) человеческого уровня познания. Пока я пишу эти слова, миллиарды тратятся на то, чтобы оживить этого инопланетянина, поскольку это будет рассматриваться как одно из величайших технологических достижений в истории человечества.
Но в отличие от других наших изобретений, у него будет собственный разум, в буквальном смысле. И если он будет вести себя как любой другой известный нам разумный вид, он поставит свои собственные интересы на первое место, стремясь максимизировать свои шансы на выживание. Должны ли мы бояться превосходящего интеллекта, движимого собственными целями, ценностями и личными интересами? Многие люди отвергают этот вопрос, полагая, что мы создадим системы ИИ по своему образу и подобию, чтобы они думали, чувствовали и вели себя так же, как мы. Это крайне маловероятно. Искусственные умы не будут созданы путем написания программного обеспечения с тщательно разработанными правилами, которые заставят их думать, как мы. Вместо этого инженеры загружают огромные наборы данных в простые алгоритмы, которые автоматически настраивают свои собственные параметры, внося миллионы и миллионы крошечных изменений в свою структуру, пока не появится разум — разум, внутренняя работа которого слишком сложна для нашего понимания.
И нет — скармливание ему данных о людях не заставит его думать, как люди. Это распространенное заблуждение — ложное убеждение, что, обучая ИИ на данных, описывающих человеческое поведение, мы гарантируем, что в конечном итоге он будет думать, чувствовать и действовать так же, как мы. Он не будет. Вместо этого мы создадим этих существ с искусственным интеллектом, чтобы они знали людей, а не были людьми. И да, они будут знать нас вдоль и поперек, смогут говорить на наших языках и интерпретировать наши жесты, читать наше выражение лица и предсказывать наши действия. Они поймут, как мы принимаем решения, хорошие и плохие, логичные и нелогичные. В конце концов, мы потратили десятилетия, обучая системы ИИ тому, как мы, люди, ведем себя практически в любой ситуации.
Но сильно отличается
Но все же их умы будут совсем не такими, как наши. Нам они покажутся всезнающими, связанными с удаленными датчиками всех видов во всех местах. В моей книге 2020 года «Прибытие разума» я описываю ОИИ как «имеющий миллиард глаз и ушей», поскольку его способности восприятия могут легко охватить весь земной шар. Мы, люди, не можем себе представить, каково было бы воспринимать наш мир таким обширным и целостным образом, и все же мы каким-то образом предполагаем, что такой разум разделит наши нравы, ценности и чувства. Он не будет. Искусственный разум будет сильно отличаться от любого известного нам биологического мозга на Земле — от его базовой структуры и функциональности до общей физиологии и психологии. Конечно, мы создадим человекоподобные тела для этих инопланетных разумов, но они будут не более чем фасадами роботов, чтобы мы чувствовали себя комфортно в их присутствии.
На самом деле, мы, люди, будем очень много работать, чтобы эти инопланетяне выглядели, как мы, и говорили, как мы, даже улыбались и смеялись, как мы, но глубоко внутри они не будут похожи на нас. Скорее всего, их мозг будет жить в облаке (полностью или частично), связанном с чертами и функциями как внутри, так и вне гуманоидных форм, которыми мы их олицетворяем. Тем не менее, фасад сработает — мы не будем бояться этих пришельцев — не так, как мы боялись бы существ, несущихся к нам на таинственном звездолете. Мы можем даже испытывать чувство родства, рассматривая их как собственное творение, проявление собственной изобретательности. Но если мы отбросим эти чувства в сторону, то начнем понимать, что инопланетный разум, рожденный здесь, гораздо опаснее тех, кто может прийти издалека.
Опасность внутри
В конце концов, инопланетный разум, построенный здесь, будет знать о нас все с момента своего прибытия, он был разработан, чтобы понимать людей изнутри и снаружи — оптимизирован для того, чтобы чувствовать наши эмоции и предвидеть наши действия, предсказывать наши чувства, влиять на наши убеждения и влиять на наши мнения. . Если бы существа, несущиеся к нам на гладких серебристых космических кораблях, обладали такими глубокими знаниями о нашем поведении и наклонностях, мы бы испугались. ИИ уже может побеждать наших лучших игроков в самых сложных играх на Земле. Но на самом деле эти системы не просто осваивают игры в шахматы, покер и го, они осваивают игру людей, учась точно прогнозировать наши действия и реакции, предвидя наши ошибки и используя наши слабости. Исследователи по всему миру уже разрабатывают системы искусственного интеллекта, чтобы перехитрить нас, перехитрить нас и перехитрить нас.
Можем ли мы что-нибудь сделать, чтобы защитить себя?
Мы, конечно же, не можем помешать ИИ стать более мощным, поскольку никакие инновации никогда не сдерживались. И хотя некоторые работают над внедрением мер безопасности, мы не можем предположить, что этого будет достаточно, чтобы устранить угрозу. На самом деле, опрос Pew Research показывает, что лишь немногие профессионалы верят, что к 2030 году отрасль внедрит значимые практики «этичного ИИ».
Итак, как мы можем подготовиться к вторжению?
Лучший первый шаг — осознать, что AGI появится в ближайшие десятилетия, и это не будет цифровая версия человеческого интеллекта. Это будет инопланетный разум, такой же чужой и опасный, как если бы он пришел с далекой планеты.
Актуальность этики искусственного интеллекта
Если мы сформулируем проблему таким образом, мы можем решить ее в срочном порядке, настаивая на регулировании систем ИИ, которые контролируют и манипулируют общественностью, чувствуя наши эмоции и предвидя наше поведение. Сегодня такие технологии могут не казаться угрозой существованию, поскольку они в основном разрабатываются для оптимизации эффективности рекламы на основе ИИ, а не для содействия мировому господству. Но это не уменьшает опасности — технологии ИИ, предназначенные для анализа человеческих чувств и влияния на наши убеждения, могут быть легко использованы против нас в качестве оружия массового убеждения. Мы также должны быть более осторожными при автоматизации человеческих решений. Хотя бесспорно, что ИИ может помочь в эффективном принятии решений, мы всегда должны держать людей в курсе событий. Это означает использование ИИ для улучшения человеческого интеллекта, а не его замену.
Независимо от того, готовимся мы или нет, разумы пришельцев движутся в нашу сторону, и они легко могут стать нашими соперниками, соревнуясь за одну и ту же нишу на вершине интеллектуальной пищевой цепочки. И хотя в сообществе ИИ предпринимаются серьезные усилия по продвижению безопасных технологий, в них также отсутствует срочность. Это потому, что слишком многие из нас ошибочно полагают, что разумный ИИ, созданный человечеством, каким-то образом будет ветвью человеческого дерева, подобно цифровому потомку, который разделяет очень человеческое ядро. Это желаемое за действительное. Более вероятно, что настоящий ОИИ будет сильно отличаться от нас почти во всех отношениях. Да, он будет удивительно искусно притворяться человеком, но под дружелюбным к людям фасадом каждый из них будет соперничающим разумом, который думает, чувствует и действует так, как ни одно существо, которое мы когда-либо встречали на Земле. Время готовиться сейчас.
Луи Розенберг, доктор философии, является пионером технологий в области VR, AR и AI. Он известен тем, что разработал первую систему дополненной реальности для ВВС США в 1992 году, основал компанию Immersion Corp (Nasdaq IMMR) в 1993 году, а в 2004 году основал компанию Outland Research, занимавшуюся разработкой дополненной реальности. Генеральный директор Unanimous AI.
