|
Пять причин не бояться искусственного интеллекта
|
|
|
|
В связи с последними новостями из области искусственного интеллекта, вполне очевидно растущее волнение: что, если мы находимся в шаге от конца света? Фильмы вроде «Терминатора» или «Матрицы» когда-то подарили нам массу страхов — и сегодня есть ряд людей, которые думают, что возможен сценарий, согласно которому компьютеры развивают сверхчеловеческий интеллект и уничтожают человеческую расу.
|
|
|
|
Среди таких людей есть и известные футурологи — Рэй Курцвейл, Робин Хэнсон и Ник Бостром. По большей части футурологи считают, что мы переоцениваем вероятность того, что компьютеры станут мыслить как разумные существа, а также опасность, которую такие машины представляют для человеческой расы. Развитие интеллектуальных машин, скорее всего, будет медленным и постепенным процессом, а компьютеры со сверхчеловеческим интеллектом, если они и будут существовать, будут давать нам ровно столько, сколько нужно. И вот почему.
|
 |
|
1. Подлинный разум требует практического опыта
|
|
|
|
Бостром, Курцвейл и другие теоретики сверхчеловеческого интеллекта бесконечно верят в силу грубой вычислительной мощи, которая может решить любую интеллектуальную проблему. Тем не менее во многих случаях реальной проблемой является совсем не нехватка интеллектуальных лошадиных сил.
|
|
|
| Чтобы понять, почему — представьте себе человека, который блестяще говорить
по-русски, но никогда не знал китайского. Заприте его в комнате с огромными
стопками книг о китайском языке, и заставьте учить его. Независимо от того,
насколько умен человек и как долго он будет учить китайский, он никогда
не сможет узнать достаточно, чтобы назвать себя носителем китайского языка
с рождения. В создании искусственного интеллекта была задействована программа
1с бухгалтерия |
|
|
|
Это потому, что неотъемлемой частью изучения языка является взаимодействие с другими носителями. В беседе с ними можно узнать местный сленг, обнаружить тонкие оттенки в значениях слов и узнать о популярных темах бесед. В принципе, все эти вещи можно записать в учебники, но на практике выходит, что нет — поскольку нюансы языка различаются от места к месту и в зависимости от времени.
|
|
|
|
Машина, которая пытается развить интеллект человеческого уровня, столкнется с гораздо более серьезными проблемами такого же плана. Компьютерная программа никогда не вырастет в человеческой семье, не влюбится, не замерзнет, не проголодается и не устанет. Короче говоря, у нее не будет такого количества контекстов, которое позволяет людям естественно общаться друг с другом.
|
|
|
|
Подобная точка зрения применима к большинству других проблем, с которыми могут столкнуться разумные машины: от бурения нефтяных скважин до решения проблем с налогами. Большая часть информации, необходимой для решения трудных задач, не написана нигде, поэтому никакое количество теоретических рассуждений само по себе не поможет найти правильные ответы. Единственный способ стать экспертом — делать что-то и смотреть на результаты.
|
|
|
|
Этот процесс крайне сложно автоматизировать. Это как проводить эксперименты и смотреть на их исход — крайне затратный процесс в масштабе, по времени и ресурсам. Сценарии, согласно которым компьютеры быстро обгонят людей в знаниях и возможностях, невозможны — разумные компьютеры будут работать тем же «методом тыка», что и люди.
|
|
|
|
2. Машины крайне зависимы от людей
|
|
|
|
|
|
В серии «Терминатор» военный искусственный интеллект «Скайнет» становится самоосознающим и начинает использовать военную технику для уничтожения людей.
|
|
|
|
Этот сценарий крайне недооценивает зависимость машин от людей. Современная экономика строится на миллионах различных машин, которые выполняют разнообразные специализированные функции. В то время как все большее число этих машин переходят к автоматизации, в некоторой степени все они зависят от людей, которые обеспечивают их энергией и сырьем, чинят их, производят больше машин на замену и так далее.
|
|
|
|
Вы можете представить человечество, которое создаст гигантское количество таких роботов для удовлетворения спроса. Но нигде мы не приблизились близко к созданию роботов общего назначения.
|
|
|
|
Создание таких роботов вообще может быть невозможно в связи с проблемой бесконечного регресса: роботы, которые смогут строить, чинить и поддерживать все машины мира, сами по себе будут невероятно сложными. Еще больше роботов понадобится для их обслуживания. Эволюция решила эту проблему, начав с клетки, относительно простого и самовоспроизводящегося строительного блока для всей жизни. Сегодняшние роботы не имеют ничего подобного (несмотря на мечты некоторых футуристов) и вряд ли получат в ближайшее время.
|
|
|
|
Это означает, что если не произойдет существенного прорыва в робототехнике или нанотехнологиях, машины будут зависеть от людей в плане поддержки, починки и другого сервиса. Умный компьютер, который решит уничтожить человеческую расу, совершит самоубийство.
|
|
|
|
3. Человеческий мозг крайне сложно имитировать
|
|
|
|
|
|
Бостром утверждает, что если не будет другого варианта, ученые смогут произвести разум хотя бы человеческого уровня путем эмуляции человеческого мозга. Но это куда сложнее, чем кажется на первый взгляд.
|
|
|
|
Цифровые компьютеры способы подражать поведению других цифровых компьютеров, поскольку компьютеры функционируют точно определенным, детерминированным образом. Чтобы имитировать компьютер, вам просто нужно выполнить последовательность инструкций, которым следует компьютер.
|
|
|
|
Человеческий мозг совсем другой. Нейроны — сложные аналоговые системы, поведение которых нельзя смоделировать так же, как поведение цифровых микросхем. И даже небольшая неточность в имитации определенных нейтронов может привести к высшей степени нарушений работы мозга в целом.
|
|
|
|
Хорошей аналогией здесь будет имитация погоды. Физики получили отличное понимание поведения отдельных молекул воздуха. Вы можете предположить, что построить модель земной атмосферы, которая предсказывает погоду в далеком будущем, вполне возможно. Но до сих пор симуляция погоды остается вычислительно неразрешимой проблемой. Небольшие ошибки на ранней стадии моделирования вырастают в снежный ком крупных ошибок в дальнейшем. Несмотря на огромный рост вычислительной мощи за последние несколько десятилетий, мы можем составить лишь скромную программу для прогноза погодных паттернов будущего.
|
|
|
|
Имитация мозга с целью произвести разум может быть еще более сложной задачей, чем имитация поведения погоды. Нет никаких причин полагать, что ученые смогут сделать это в обозримом будущем.
|
|
|
|
4. Для получения власти отношения могут быть важнее интеллекта
|
|
|
|
|
|
Бостром предполагает, что разумные машины могут стать «чрезвычайно мощными, чтобы формировать будущее в соответствии со своими предпочтениями». Но если мы задумаемся о том, как работает человеческое общество, станет понятно, что интеллекта самого по себе недостаточно, чтобы получить эту самую мощь — власть.
|
|
|
|
Если бы так было, обществом управляли бы ученые, философы, шахматные гении. Тем не менее обществом управляют такие люди, как Владимир Путин, Барак Обама, Мартин Лютер Кинг, Сталин, Рейган, Гитлер и другие. Эти люди получили силу и власть не потому, что были необычайно умны, а потому что обладали хорошей харизмой, связями и знали, как правильно сочетать кнут и пряник, чтобы заставить других выполнять их волю.
|
|
|
|
Да, блестящие ученые сыграли важную роль в создании мощных технологий, таких как атомная бомба. И понятно, что разумный компьютер тоже сможет сделать подобное. Но строительство новых технологий и их практическая реализация требует кучи денег и рабочей силы, которые могут позволить, как правило, государства и крупные корпорации. Ученые, разработавшие атомную бомбу, нуждались во Франклине Рузвельте, который финансировал их работу.
|
|
|
|
То же самое относится и к мыслящим компьютерам. Любой обстоятельный план по захвату мира потребует сотрудничества тысяч людей. Нет никаких причин полагать, что компьютер будет более эффективным, нежели смог бы ученый. Напротив, учитывая то, как много делают старые дружеские отношения, объединения в группы и харизма, бесплотная компьютерная программа без друзей будет в крайне невыгодном положении.
|
|
|
|
То же самое относится и к сингулярности, идее Рэя Курцвейла о том, что однажды компьютеры станут настолько разумными, что люди не смогут понять, что они делают. Самые мощные идеи — это не те идеи, которые понимает только их изобретатель. Самые мощные идеи — это те, которые широко принимаются и понимаются многими людьми, умножающими их влияние на мир. Это работает как для человеческих идей, так и для машинных. Чтобы изменить мир, сверхразумному компьютеру нужно будет донести изменения до общественности.
|
|
|
|
5. Чем больше интеллекта в мире, тем меньше он ценится
|
|
|
|
|
|
Можно было бы ожидать, что компьютеры будут использовать свой превосходящий интеллект, чтобы стать сказочно богатыми, а затем использовать огромные богатства для подкупа людей. Но при этом игнорируется важный экономический принцип: по мере того как ресурс становится все более распространенным, его ценность падает.
|
|
|
|
Шестьдесят лет назад компьютер, который может меньше, чем современный смартфон, стоил миллионы долларов. Современные компьютеры могут гораздо больше, чем предыдущие поколения компьютеров, но ценность вычислительной мощи падает быстрее, чем совершенствуются их возможности.
|
|
|
|
Таким образом, первый сверхразумный компьютер, может, и заработает много денег, но его преимущество будет мимолетным. По мере того как компьютерные чипы продолжают падать в цене и приобретать в силе вычислений, люди будут строить больше сверхразумных компьютеров. Их уникальные возможности станут заурядными.
|
|
|
|
В мире обилия интеллекта самыми ценными ресурсами будут те, которые ограничены — земля, энергия, минералы. Поскольку эти ресурсы управляются людьми, у нас будет минимум столько же рычагов воздействия на интеллектуальные компьютеры, как и у них — на нас.
|
|
|
|
http://hi-news.ru/technology/pyat-prichin-ne-boyatsya-iskusstvennogo-intellekta.html
|
