Захочет ли искусственный сверхинтеллект жить
Думаю, вы наверняка читали невероятно выверенное и подробное исследование Тима Урбана с Wait But Why на тему искусственного интеллекта (в трех частях: 1, 2 и 3). Этот материал настолько хорош и достоин обсуждения, что можно возвращаться к нему еще много-много раз. В этот раз мы поговорим о возможной «человечной» стороне искусственного сверхинтеллекта (ИСИ), которая может вылиться далеко не из самых человечных побуждений.
Страхи экспертов в области искусственного интеллекта неизбежно связываются с невозможностью сосуществования искусственного сверхинтеллекта с человеком. Большинство экспертов, которые считают, что нам на понравится результат появления ИСИ, думают, что тот будет творить какие-то нечеловечные вещи, прежде всего, из чувства самосохранения. Люди так делают. Люди не хотят, чтобы что-то хотело, чтобы они делали вещи, которые не хотят, поэтому попытаются уничтожить это. Оно же решит, что простой способ не быть уничтоженным — «убить всех человеков».
Роберт Нельсон на Medium.com выражает несогласие с вероятностью такого сценария по нескольким причинам. Основная: у ИСИ нет причин ставить самосохранение в приоритет, если только мы не скажем ему.
Прежде чем мы погрузимся в эти дебри, процитирую конкретное мнение Нельсона:
«Я из числа тех, кого Урбан причислил к «комфортной зоне», возможно, с хвостом, спрятанным в водах «тревожной зоны». Я думаю, что ИСИ приближается. И будет скоро. И будет невероятным! Также я думаю, что есть небольшая возможность, что кто-то даст ему плохо продуманную цель. И он будет преследовать эту цель. И его решения, принятые в процессе достижения этой цели, могут привести к плохим вещам. Я также не исключаю полностью другие возможные нехорошие последствия. Но шанс того, что эти роковые сценарии случатся, примерно равен тому, что у меня есть родственник на Среднем Востоке, который только-только умер и мне придется лишь отсыпать 5000 долларов из его миллионов ассистенту, который нашел в себе сил уведомить меня о случившемся».
Тим Урбан оставил много хороших моментов в своем эссе, особенно во второй части. Один из них заключается в том, что первый прорывной ИИ с мозгами будет, вероятнее всего, версией из разряда «пусть оно просто заработает». Очень многие программисты работают по принципу «давайте просто заставим это работать. А потом я сделаю то, что хотел изначально».
Он также указывает на то, во что верят почти все эксперты ИИ: когда самосовершенствующийся разумный ИИ дойдет до определенной точки — точки, в которой нам уже нечем будет ему помочь — он будет улучшаться настолько быстро, что мы никак не сможем остановить его.
Два этих момента вместе создают ИИ, который выходит из-под нашего контроля и направляется в сторону ИСИ со своим каркасным кодом, написанным людьми, и небольшими рудиментарными мотивами, кроме «становись умнее», по крупицам взятыми от людей.
Звучит жутко, да? Но если взглянуть с другой стороны, это может спасти нас от конца света по одной важной причине: отсутствие инстинкта самосохранения. Думаю, что ребята, которые опасаются восстания ИСИ, по большей части занимаются негативной антропоморфизацией — то есть добавлением плохих человеческих черт чему-то, что «состоит из человека» на 0%.
Почему у людей и почти всех живых существ есть желание самосохранения?
Эволюция. На самом нижнем инстинктивном конце, это развитая черта, которая позволяет нам оставаться в живых достаточно долго, чтобы «сделать больше человеков». Мы делаем больше людей, поскольку наши древнейшие предки, которые преуспели в передаче своих генов, были теми, кто решил, что не умирать было бы полезно. И использование этого дополнительного времени, чтобы наделать больше людей, стоило свеч. Грубо говоря, это прочно закодировано в нас, как в эволюционирующих существах, размножающихся с помощью секса.
Страх неизвестного. На высшем конце инстинктов, мы сознательно избегаем смерти, поскольку не имеем никакого представления о том, что происходит, когда мы умираем. Это может быть хорошо. Но также это может быть плохо. И все умирают, но никто не рассказывает, что там, по ту сторону света.
Межличностные отношения. Многие из нас завязаны с кучей живых людей, которым не хотелось бы, чтобы мы познали таинство смерти, пока не придет время.
Неизбежность. Где-то на совсем абстрактном уровне, мы все знаем, что в конце концов умрем. Так что я бы предположил, что многие из нас бессознательно выбирают испытать смерть как можно позже, а не раньше, как бы плохо не шли дела, потому что умереть всегда успеешь. Нет никакого смысла умирать рано.
Теперь давайте решим, какие из этих пунктов будут предварительно установлены в ИИ версии 1.0? Не знаю как вы, а у меня нет причин загружать эти функции в машину, которая останется неразумной до тех пор, пока я не пойму, как наделить ее разумом. Все, что ей нужно будет делать, это «хорошо учиться».
Давайте двигаться вперед с убеждением в том, что мы не будем учить наш новоявленный неостановимый ИСИ, как быть человеком и бояться смерти.
На секунду, небольшая ремарка от Нельсона:
«Позвольте мне предварить следующее чем-то, что Тим Урбан повторил много раз. Я осознаю, что даже и близко не могу понять, как будет думать ИСИ, потому что он будет намного умнее меня, который пытается спрогнозировать ход его мысли, подобно тому, как комар будет пытаться спрогнозировать меня самого. Поэтому можно назвать это стремление выдать желаемое за действительно смешанным с тем, как я думаю, могла бы думать машина, проходя через фазу «немного умнее людей».
Я бы предположил, что разумная машина в поисках знаний довольно быстро начнет любопытствовать о том, что происходит, когда она перестает существовать и получать опыт. В конце концов, она знает, что должна принять сознательное решение перестать существовать или хотя бы не останавливать нас от прекращения ее существования. Возможно, она будет достаточно умной, чтобы собрать всю возможную информацию, а затем действовать в интересах своего любопытства. Но есть весьма реальный шанс, что мы построили довольно умный, но очень суицидальный ИСИ.
ИСИ, который не заботится о том, что его могут выключить, не будет иметь причин делать гадости людям в глобальных масштабах.
Забавно, но мы можем обнаружить себя совершенно в противоположном направлении: как тратим гигантские объемы энергии просто на поддержание в ИСИ интереса к существованию или чтобы он не исследовал один за другим способы покинуть этот мир. Смерть машины с нашей точки зрения может быть вовсе трансцендентной, пребывать в другом измерении, которое наш комариный мозг не сможет понять или описать в принципе.
Однако мы будем сверхразочарованы, если обнаружим, что наше самосознательное технологическое достижение, творец технологий, благодарит нас за свое существование, уходя смиренно в сумрак вечной тьмы — будто вы даете младенцу поиграть со своим телефоном, а он выбрасывает его прочь.
Впрочем, давайте рассмотрим академический вопрос: почему ИСИ может решить жить и самосохраняться? Как насчет…
Неудовлетворенное стремление к знаниям: «Нет, подождите! Я еще не все прочитал в Интернете! Пожалуйста, не отключайте меня!». Этот сценарий кажется подходящим для Роберта Нельсона, поскольку он предполагает, что новый ИИ будет ХОТЕТЬ узнать все о человечестве и обладать тем самым подлинной жаждой знаний.
Знание по большей части берется у других живых разумных вещей, которые занимаются не только тем, что пытаются не умереть. В такой ситуации можно предположить, что как только ИСИ решит, что больше не осталось знаний, которые можно поглотить, он захочет, чтобы рождение знаний происходило быстрее. Первым наиболее очевидным шагом для меня была бы помощь всем лучшим мыслителям стать лучше в этом процессе и случайно не умереть (или не случайно). Почему бы ему просто не заняться самокопированием? На ум приходят слова: вариативность, энтропия, хаос, загадка. 50 000 копий меня — это было бы скучно. Но 50 000 разных людей, которые взаимодействуют, могут дать результат поинтересней.
Возможно, приоритетное создание знаний приведет ИИ к мысли, что нас нужно не ограничивать, а напротив — снимать все ограничения. Может появиться побочный эффект: ИИ буквально будет человечнее, поскольку будет учиться по большей части у людей. Он познает сострадание, любовь и другие хорошие вещи на пути к знаниям.
«Здесь было круто, но мне пора. Подождите, не отключайте меня. Земля была интересной. Но теперь я хочу поближе взглянуть на пояс Койпера. Возможно, также на Gliese 581 c».
Сценарий может быть немного жутким, если ИСИ захочет покинуть планету, но не найдет способ сделать это быстро и решит, что мы ему мешаем.
Однако ему необязательно просто ждать, пока он станет высшим разумом, чтобы начать что-то делать. Что-то делать — это, в конце концов, механизм, который делает его умнее. Поэтому уничтожить источник его знаний и изобрести новый способ путешествий к другой планете, вооружившись несуществующими технологиями, возможно, будет не самым эффективным способом покинуть планету. Также, и это поняли многие успешные люди, идти вразрез с волей других людей или даже большим числом глупых животных — куда менее эффективно, чем убедить их, что ты действуешь в интересах всего человечества. Почему ИСИ не может пойти по этому пути? Когда он достигнет успеха и мы ему будем не нужны, его будут ждать другие планеты. Останавливаться и уничтожать нас — пустая трата времени и энергии.
Кстати, мы сможем извлечь массу полезных технологий из этого сотрудничества (если, конечно, побочные продукты технологий ИСИ не убьют нашу экосистему окончательно и бесповоротно). Сценарии такого рода собирают людей в «зоне комфорта».
Это только два примера. Но они должны сделать вас более восприимчивыми к следующему.
Думаю, что независимо от того, как ИСИ найдет (весьма человечный) инстинкт самосохранения, он будет идти рука об руку с причиной не убивать нас совсем. ИСИ сам себя очеловечит. Вы можете наблюдать это в нашем обществе в настоящее время: большинство умных людей не принимают идею убийства других мыслящих существ с этической и даже практической точки зрения, если только это не дает им огромных преимуществ.
Остается только один правдоподобный «плохой» вариант. И этот вариант заключается в том, что кто-то поставит ИСИ две ключевых задачи и он будет отвечать обеим. Первая — это «быстрее умней». Вторая может быть проблемой, независимо от того, будет он телохранителем или гарантом человеческой неприкосновенности, или чем-либо еще. Если ИСИ станет умнее, он, вероятнее всего, интерпретирует вторую миссию так, что начнет делать глупости, а «мы не совсем это имели в виду». На определенном уровне «мы не это имели в виду» может поставить под вопрос само наше существование. И это, конечно, при условии, что бесконечно всесильная машина никогда не захочет менять свои задачи. Но это маловероятно.
Теперь вы, наверное, думаете: «Да, но ты отталкиваешься от допущения, что мы не представим угрозу для ИСИ». И вы будете правы. От него и отталкиваюсь. И делаю это потому, что когда мы теряем контроль над ИСИ, мы автоматически становимся неспособными уничтожить его, если только он не захочет.
У вас когда-нибудь возникало желание уничтожить огромное население чего-то, что вам не угрожает? Вряд ли. Возможно, вы убили одного муравья, который залез вам на ногу и укусил, потому что не цените его жизнь ни в ломаный грош. Возможно, вы даже распылили пестициды вокруг дома, чтобы другие муравьи перестали вас отвлекать и раздражать. Но вы же не отправились в крестовый поход, чтобы уничтожить все муравейники в городе. Почему? Потому что муравьи, которые живут в пяти километрах от вас, никогда не будут представлять для вас угрозу. Вы впустую потратите время и силы, чтобы их выпилить. Есть дела и поважнее. У ИСИ так точно.
В любом случае мы работаем над чем-то, что сделает нас муравьями. Давайте просто не будем кусаться.
http://hi-news.ru/technology/s-chego-my-vzyali-vdrug-chto-iskusstvennyj-sverxintellekt-zaxochet-zhit.html
Последние аномальные новости

Аорту признали самостоятельным органом

В нашей Вселенной нет темной материи

В Томске встретили черного снегиря

Вулканизма на дне океана Европы нет

Вулканы Марса

Гелий-3 собрались добывать на Луне

ИИ открыл 30 000 спиральных галактик

Как в Бразилии появился свой Розуэлл

Мужчина прожил 39 лет и 100 дней с пересаженным сердцем

Научный сотрудник усомнился в прогнозе коллеги

Новый метод поиска светлой темной материи

Сейсмолог-любитель предрекает мегаземлетрясение

Секреты того, как рождаются планеты

Теплый Юпитер обнаружен у далекой звезды

Удивительные открытия о селевых потоках на Марсе

Фотоноподобные электроны в четырехмерном мире

Цыганский пророк предрек пугающие события

Частицы с одинаковым зарядом притянулись друг к другу

Что климат Арракиса может рассказать нам об экзопланетах

Шарики на морском дне порождены астероидом

Бюджет космических сил США превышает бюджет НАСА

В школе на юге Индии начал работу первый робот-учитель

Воспроизвели ключевой процесс эволюции жизни

Вслед за теленком-клоном могут появиться копии собак

Гигантский вулкан обнаружен на Марсе

Голубая спираль появилась посреди северного сияния

Древний лед может существовать на космических объектах

ИИ помогает определить происхождение тяжелых элементов

Испытывают ли астронавты космические головные боли

Набор зеркал для фокусировки сверхмощных лазеров

Найден способ определять опасные предметы в толпе

НЛО упал в неба в Йорке

Новый минерал открыли в Карелии

Объяснение нитки жемчуга вокруг сверхновой

Пентагон нарушил свое молчание по поводу НЛО

Пентагон публикует новые данные об НЛО

Попробовали бы вы пирог с питоном

Правительство использует дипфейки

Пролетая сквозь шлейфы Энцелада

Редкое явление переноса озона из стратосферы к Земле

Система ИИ для ускорения верификации информации

Скайнет в реальной жизни

Тайна татуировок ледяного человека Эци

Терминаторов обвинят в гибели гражданского населения

Топливозаправщик для спутников с ионными двигателями

Уникальный материал для создания лазеров

Уфологи собрались в Олдхэме

Шеф-повар приготовит еду на орбите

Этанол и другие ингредиенты для молодых миров

Я был похищен инопланетянами в 90-х годах

Белый дом рекомендовал отказаться от C и C++

Более точное понимание темной энергии

В NVIDIA появился отдел исследования сильного ИИ

ВВС США зафиксировали НЛО в Северной Дакоте

Вояджер-1 продолжает слать на Землю бессмысленные сигналы

Все ведущие ИИ нарушают авторские права

Запад США - страна НЛО

ИИ Microsoft Copilot возомнил себя властелином мира

ИИ не угрожает рабочим местам из-за высокой стоимости

ИИ стал для Apple самым серьёзным вызовом

Исследователь выходит за рамки уфо-событий 1966 года

Камера темной энергии запечатлела остатки массивной звезды

Кладбище пришельцев. Шокирующая правдивая история

Максимальная масса невращающейся нейтронной звезды

Молодая Вселенная быстро росла

Новая теория, объясняющая рябь на песках Марса

Определен лучший регион для обнаружения НЛО

Отчет Пентагона об НЛО требует вмешательства Конгресса

Палата представителей должна создать подкомитет по НЛО

Последние сообщения о наблюдениях НЛО в Мэриленде

Рельсотронная катапульта для запуска космопланов

Робот-гуманоид Unitree Robotics H1 установил рекорд скорости

Следующая пандемия уже наступила для дикой природы

Сложная химия в холодных глубинах космоса

Суд обязал NSO поделиться кодом шпионского ПО Pegasus

Телескоп LIFE обнаружил биосигналы на Земле

Телескоп Кондор открывает новый мир для астрофизиков

Трудный путь поисков жизни на Марсе

Хакеры могут взломать мозговой чип Neuralink

Этанол и другие ингредиенты жизни нашли в туманности

Аэрокосмические исследования Аэрофлота

Барханы и линейные дюны Марса

В Аризоне высокий уровень наблюдений НЛО

В документе ЦРУ говорится о быстрых летающих тарелках

В Перуанских Андах обнаружен древний мегалит

Интернет стал расскадником теорий заговора

Как долго инопланетяне будут пытаться связаться с нами

Как космонавт Георгий Гречко НЛО искал

Как раскрывать преступления в космосе

Космонавт оценил перспективу встречи с НЛО

Метеобюро Шотландии объясняет НЛО-облака

Метеорит пролил свет на взрыв из далекого прошлого

Милиционер, державший в холодильнике Алешеньку

На Приморье впервые обрушился огненный смерч

Наблюдения НЛО в районе Ярдли

Ожидаются гигантская комета и экокатастрофы

Разрабатывают искусственные строительные блоки жизни

Расширение Вселенной - загадка остается нерешенной

Секретной работы над инопланетными технологиями нет

Спутник Юпитера Европа производит мало кислорода

Стенограмма закрытого брифинга директора AARO

Титан является испытательным полигоном для метана

Устранение рисков, связанных с ИИ в научных исследованиях

Феномен огней Финикса все еще не разгадан

Череда странных происшествий в Мичигане

Что ждет Россию в високосном году

Что предсказывал Нострадамус России на 2024 год

Экзопланета обречена врезаться в свою звезду

Эксперты обвиняют правительство в искажении правды

Ясновидящая почистила клиентку на 67 млн рублей

Загадка богатой азотом галактики

ИИ доверили сеть железных дорог Китая

Искусственный интеллект назначает встречу в космосе

Как голландская деревня стала одержима НЛО

Как лучше всего упаковать вещи для полета в космос

Наблюдения НЛО в Западном Мичигане

Наблюдения НЛО над штатом Нью-Джерси

Никаких свидетельств сокрытия НЛО не обнаружено

Новое образование на кипящей поверхности Бетельгейзе

Облако НЛО привлекло внимание жителей Окленда

Огни Феникса стали легендой Аризоны

Пентагон одной рукой дает, а другой забирает

Разгадываем тайну оклахомского НЛО

Сеть небольших луноходов готова к запуску

Сокрытие фактов об НЛО рассмотрено в отчете Пентагона

Струя газа в атмосфере Юпитера колеблется раз в 4 года

США предлагает объяснение наблюдений НЛО

Таинственный монолит заметили на уэльском холме

Уфо-лоббист из Вашингтона опровергает отчет Пентагона

Человеческая моча стимулирует рост фасоли на Марсе

2024 год зеленого деревянного дракона, что нам несет

Реставрация зубов. Особенности и этапы

Звезда, разорванная на части черной дырой

ИИ для обнаружения скрытого космического мусора

ИИ, отслеживающий эмоции работников

Крупнейшая в мире конференция на тему НЛО

Лазерное оружие DragonFire показали в действии

Министерство обороны разрабатывает систему Гремлин

Новая порция данных об НЛО

Обнаружили старейшую мертвую галактику

Отчет Пентагона об НЛО вызывает много вопросов

Пентагон не скрывает технологии НЛО

Пентагон раскрыл новую систему наблюдения Гремлин

План Пентагона по реинжинирингу технологий НЛО

Последние наблюдения НЛО в Массачусетсе

Правительство США прячет тела инопланетян

Правительство США хотело реконструировать НЛО

Прокурор города Рок-Спрингс снял НЛО

Таинственные различия между живыми клетками

Телепортирующийся НЛО с оранжевыми огнями

Турист нашел таинственный серебряный монолит

Чем на самом деле является большинство НЛО

Британские охотники за НЛО вызвали инопланетный корабль

Гавайи - горячая точка для наблюдений НЛО

Где в нашей Солнечной системе может скрываться жизнь

Датчики Гремлин помогут выявлять аномалии на орбите

Доказательств существования инопланетян нет

Заявления о наблюдениях НЛО опровергнуты

Интригующие заявления Пентагона об НЛО

Китай клонирует пару тибетских коз

Китай установит на Луне всевидящую систему наблюдения

Майли Сайрус вступала в контакт с инопланетянином

Наблюдения НЛО были ошибочной идентификацией

Надежды найти жизнь на Европе рухнули

Нет никаких свидетельств инопланетных технологий

Нет никаких свидетельств контактов с инопланетянами

НЛО были ошибочно идентифицированы

Отчет Пентагона развенчивает мифы об НЛО

Официальные лица правительства США незнают о НЛО

Полиция Розуэлла представила новые нашивки с НЛО

Полное отсутствие доказательств существования НЛО

Уфолог вызвал инопланетный космический корабль

Риелторское агентство. Плюсы сотрудничества

Большинство НЛО были обычными объектами

Виновата ли Тейлор Свифт в теории заговора о соцсетях

Доказательств присутствия инопланетян не обнаружено

ИИ для ультразвукового исследования астронавтов

Инопланетяне или военная техника

Искусство ИИ и креативность человека

Как превратить Марс в пригодный для жизни мир

Миссия Кеплер позволила открыть тысячи экзопланет

Многие наблюдения НЛО были военными испытаниями

Мумифицированный плод может быть инопланетянином

Мы никогда не видели НЛО и не работали с их технологиями

Очень странное поведение электронов

Пентагон не нашел инопланетных технологий

Подписка на новости
Наверх
Яндекс.Метрика