26.07.2018. - Четыре не простых шага до общего искусственного интеллекта

Четыре не простых шага до общего искусственного интеллекта

«За 15 лет, с тех пор как я впервые представил термин “общий искусственный интеллект” (AGI), область ИИ значительно продвинулась. Сегодня у нас есть самоуправляемые автомобили, автоматическое распознавание лица и захват изображений, машинный перевод и экспертные игроки в лице ИИ, а также многое другое», говорит Бен Гертцель, CEO децентрализованной сети SingularityNET. Далее – от первого лица.

Однако эти достижения по существу остаются в области «узконаправленного ИИ» — искусственного интеллекта, который выполняет задачи, основываясь на специально обозначенных данных или правилах или же в тщательно разработанных учебных ситуациях. ИИ, которые могут работать, в общем, в непредвиденных обстоятельствах и противостоять миру как автономные агенты, по-прежнему остаются частью будущего.

Общий искусственный интеллект (ОИИ): что это такое?

Остается вопрос: что нам нужно, чтобы превратить инструменты современного узконаправленного искусственного интеллекта, который все больше вливается в бизнес и общество, в тот самый общий искусственный интеллект, о котором грезят футурологи и писатели-фантасты?

Несмотря на огромное разнообразие перспектив и отсутствие нехватки технических и концептуальных идей на пути к ОИИ, между экспертами нет ничего похожего на соглашение по этому вопросу.

Разнообразный ландшафт прото-ОИИ

К примеру, главный учредитель Deep Mind Демис Хассабис долгое время был поклонником относительно сильно вдохновленных мозгом подходов к ОИИ и продолжает публиковать работы в этом направлении. С другой стороны, проект OpenCog, ориентированный на ОИИ, соучредителем которого я стал в 2008 году, использует менее ориентированный на мозг подход – он включает нейронные сети, при этом мощно опираясь на символико-логические представления и вероятностные выводы, а также эволюционное обучение программы.

К чему я веду, так это к тому, что раз у нас есть много рабочих подходов к пилотируемым полетам – самолеты, вертолеты, ракеты и т.п., может быть так же много рабочих подходов к ОИИ, некоторые из которых в большей степени вдохновлены биологией, чем другие. И, как и братья Райт, сегодняшние пионеры ОИИ руководствуются в большей степени экспериментами и интуицией, отчасти потому, что мы пока не знаем полезных теоретических законов общего интеллекта, чтобы направлять инженерный подход к ОИИ по движению теорий; теории ОИИ развиваются органично по мере практики.

Четыре (не совсем) простых шага к ОИИ

Я полагаю, что эти четыре шага в принципе достижимы до конца моей жизни, может быть даже в следующие 5-10 лет. Над каждым из этих шагов работают многие команды самых умных людей в мире, включая, но ни в коем случае не ограничиваясь моими собственными командами в SingularityNET, HansonRobotics и OpenCog.

Хорошие новости в том, что нам не нужны радикально новые, лучшие аппаратные средства, а также радикально иные алгоритмы или датчики или приводы. Нам просто нужно использовать наши компьютеры и алгоритмы более разумно, выполняя следующие действия.

#1. Сделать когнитивную синергию практичной

Сегодня у нас имеется много мощных алгоритмов ИИ, но мы не используем их вместе достаточно сложным образом, поэтому теряем много синергетического интеллекта, который мог бы появиться от совестного их использования. И напротив, различные компоненты человеческого мозга настроены на совместную работу с интересной обратной связью и взаимодействием. Нам необходимо создать системы, которые обеспечат богатую и полную координацию различных агентов ИИ на различных уровнях в одной, сложной, адаптивной сети искусственного интеллекта.

В архитектуре OpenCog, например, мы пытается реализовать это, создавая различные алгоритмы обучения и рассуждения, работая совместно над Atomspace Hypergraph, который позволяет создавать гибридные сети из символьных и подсимвольных сегментов. Наш движок вероятностной логики, который обрабатывает факты и убеждения, наш движок эволюционного обучения программы, который обрабатывает практические знания, наши глубокие нейронные сети, обрабатывающие восприятие – все они работают сообща, обновляя один набор узлов и связей гиперграфа.

На другом уровне, в сети ИИ на блокчейне SingularityNET, мы работаем над когнитивной синергией, позволяя различным агентам ИИ использовать разные внутренние алгоритмы для запросов друг к другу и обмена информацией и результатами. Идея состоит в том, что сеть агентов ИИ, используя специальный токен для обмена ценностями, может создать общую когнитивную экономику умов с интеллектом высшего уровня, который выходит за пределы интеллекта отдельных агентов. Это современная реализация идеи первопроходца ИИ Марвина Мински интеллекта как «общества умов» на блокчейне.

#2. Соединить символьный и подсимвольный ИИ

Я считаю, что ОИИ наиболее эффективно удастся достичь за счет соединения алгоритмов, которые используют низкоуровневым интеллектом, таких как восприятие и движение (например, глубокие нейронные сети), с алгоритмами, которые используются для абстрактных рассуждений высокого уровня (логические движки).

Глубокие нейронные сети добились поразительного успеха в последнее время в обработке различных видов данных, включая изображения, видео, аудио и, в меньшей степени, текста. Однако становится очевидно, что эти непосредственные архитектуры сетей не очень хорошо обрабатывают абстрактные знания.

Моя собственная интуиция подсказывает, что кратчайший путь к ОИИ будет состоять в том, чтобы использовать глубокие нейронные сети там, где они больше всего приспособлены, и сделать их гибридными, наделить более похожими на методы ИИ логическими системами, чтобы они могли обрабатывать более продвинутые аспекты человекоподобного сознания.

#3. Архитектура цельного организма

Люди– это не только сознание, разум, но также и тело, организм, поэтому достижение ОИИ человеческого уровня потребует включения систем ИИ в физические системы, способные взаимодействовать с повседневным человеческим миром в тонких моментах.

«Архитектура цельного организма» (WHOA!) – прекрасная фраза, представленная моим коллегой в области робототехники Дэвидом Хэнсоном. В настоящее время мы работаем с его прекрасным роботизированным творением «Софией», разработку программного обеспечения которой я перевел на платформу для экспериментов с искусственным интеллектом Open Cog и SingularityNET.

Общий интеллект не требует человекоподобного тела, да и вообще тела не требует. Однако, если мы хотим создать ОИИ, который, в частности, проявляет человекоподобное познание и может понимать людей, этот ОИИ должен будет иметь своеобразное сочетание познания, эмоций, социализации, восприятия и движения, которые характеризует человеческую реальность. Очевидно, лучший способ для ОИИ получить такого рода чувства – расположиться в теле, которое будет хотя бы приблизительно напоминать человеческое.

Потребность в архитектуре цельного организма связана с важностью эмпирического обучения для ОИИ. В сознании человеческого ребенка все виды данных смешиваются сложным образом, и цели и задачи должны умещаться в категории, структуры и динамику мира. Даже разницу между собой и другим нужно уяснить. В конечном счете, ОИИ должен будет проводить такого рода своеобразное обучение и для себя.

Хотя обеспечивать систему ОИИ данными из текстов и баз данных не так уж и неправильно, необходимо также создать систему, которая будет взаимодействовать с миром, воспринимать его и исследовать автономно, и создавать собственную модель себя и мира. Семантика всего, чему она учится, таким образом, будет основываться на ее собственных наблюдениях. Если она будет изучать нечто абстрактное, вроде языка или математики, ей придется обосновывать семантику этих дисциплин в собственной жизни, а также в абстракции.

Экспериментальное обучение не требует робототехники. Но робототехника цельного организма обеспечивает чрезвычайно естественный путь за пределы современных учебных процессов, например, к экспериментальному обучению ИИ.

#4. Масштабируемое мета-обучение

ОИИ должен не только учиться, но и «учиться учиться». ООИ придется применять свои алгоритмы рассуждения и обучения рекурсивно к самому себе, чтобы автоматически улучшать собственную функциональность.

В конечном счете, способность применять обучение для улучшения обучения должна позволить ОИИ продвинуться далеко за пределы возможностей человека. В настоящий момент мета-обучение остается сложной, но критически важной задачей. В SingularityNET, например, мы начинаем применять искусственный интеллект OpenCog для распознавания паттернов в собственной эффективности на временном отрезке, чтобы он улучшал собственную производительность.

В направлении доброжелательного ОИИ

Если моя точка зрения на ОИИ верна, как только один из этих четырех аспектов продвинется за пределы текущего состояния, мы получим его — ОИИ человеческого уровня и дальше.

Я нахожу эту перспективу чрезвычайно захватывающей и немного пугающей. Мне также известно, что некоторые наблюдатели, включая таких больших людей, как Стивен Хокинг и Илон Маск, высказывались ровно противоположным образом: больше страха, чем восхищения. Я думаю, почти все, кто серьезно относится к разработке ОИИ, вкладывает много усилий в смягчение соответствующих рисков.

Один из выводов, к которым я пришел в процессе моей работы над ИИ и робототехникой, заключается в следующем: если мы хотим, чтобы наши ОИИ могли поглощать и понимать человеческую культуру и ценность, лучшим подходом будет включить эти ОИИ в общие социальные и эмоциональные контексты с людьми. Я чувствую, что мы поступаем правильно в нашей работе с «Софией» в Hanson Robotics; в недавних экспериментах мы использовали «Софию» в качестве руководства по медитации.

В последние несколько лет я также увлекся работой по обеспечению того, чтобы ИИ развивался так, чтобы стал эгалитарным и распределенным по всей экономике мира, а не обосновался в крупных корпорациях или военных правительствах. Проще говоря, я предпочел бы, чтобы сверхразумным стал доброжелательный, любящий ИИ, а не робот-убийца, рекламный движок или хедж-фонд ИИ. С такой мотивацией я запускал проект SilgularityNET— чтобы использовать ИИ и блокчейн вместе и создать открытый рынок, на котором любой человек на планете мог бы использовать самый мощный в мире ИИ в любых целях. Если ОИИ родится из «экономики сознаний» такого характера, вероятнее всего, он будет иметь подходящее этическое и инклюзивное мышление.

Мы заходим на неизвестную территорию, не только интеллектуально и технологически, но и социально и философски. Давайте сделаем все возможное, чтобы следующий этап нашего коллективного путешествия протекал мудро и кооперативно, а также разумно и увлекательно.

Источник