12.02.2017. - Нейросети угрожают человечеству

Нейросети угрожают человечеству

Тема нашей сегодняшней беседы — новая технология, которая исподволь проникает во многие сферы человеческой жизни, грозясь в ближайшем будущем радикально поменять наши представления о "разумности" и "интеллекте".

Речь идёт о таком явлении, как нейросети — специализированные системы искусственного интеллекта, которые уже на сегодняшний день превзошли возможности человеческого разума во многих действиях, ещё вчера мыслимых исключительно "творческими" и "интуитивными", могущими быть исполненными только людьми, но никак не компьютерами или программами.

Так что же такое нейросети?

Антон БАЛАКИРЕВ. Исторически существовало два подхода к созданию того, что в английском языке получило название artificial intellignce, сокращённо — AI. В английском языке этот термин имеет буквальное значение "искусственное умение рассуждать разумно" и не столь связан с образом человеческого разума, как это происходит при употреблении русского термина "искусственный интеллект". Слово "интеллект" слишком уж привязывает нас к некоей антропоморфной концепции разума как прерогативы нас, людей разумных, заставляя ожидать чего-то подобного и от творений наших рук и разума. Но как показала эволюция искусственного интеллекта, сокращённо — ИИ, в итоге люди создали отнюдь не копию себя, но нечто совершенно иное. И получилось это в результате синтеза двух противоположных подходов к созданию ИИ.

Первый — так называемый нисходящий подход, который больше привязан к математике и к семиотике (науке о знаках) и пытается анализировать и копировать высокоуровневые психические процессы: мышление, речь, творческий выбор, распознавание образов. В рамках этого подхода на протяжении второй половины ХХ и начала XXI века был наработан уникальный математический и логический аппарат, который позволил разложить все сложные процессы человеческого интеллекта на составные "кирпичики". Надо сказать, что побочным результатом этого нисходящего подхода явилось гораздо более полное осознание процессов творчества (например, ТРИЗ), этот подход привёл к массе открытий в области психологии, социологии, медицины, общественных коммуникаций. Люди гораздо полнее стали понимать самих себя, свои действия и мотивации. Более того, в рамках этого подхода стало ясно, что то, что мы называем "человеческим поведением", часто бывает неразумным и нелогичным, диктуется, условно говоря, спящим внутри нас "внутренним крокодилом" — моделями и шаблонами поведения, которые были унаследованы нами от наших далёких предков. С другой стороны, стал очевидным и иной тезис: многие разумные действия, которые можно мотивировать с точки зрения логики и интеллекта, выходят за рамки человеческой нравственности и морали, и это тоже приводит к тому самому феномену "искусственного умения рассуждать разумно", которое по своей сути не привязано к биологической природе человека.

Второй подход — это противоположный, восходящий подход. Со времени открытия нейронов и биологической нейронной сети в конце XIX века человечество прошло долгий путь понимания внутренней сути этих "песчинок разума". Так, весомые доказательства существования активных соединений, синапсов, между отростками нейронов были получены только полвека спустя, в 1950-х годах, с изобретением электронного микроскопа. С тех пор изучение нейронов продвинулось вперёд несоизмеримо — можно сказать, что за последнее десятилетие мы узнали о нейронах больше, чем за прошедшие полвека, а ещё сто лет назад о своём мозге мы не знали ничего. Но тут надо учитывать и второй процесс — ровно такие же изменения произошли и с искусственными заменителями нейронов, микропроцессорами. Сегодняшний их уровень позволяет практически полностью скопировать все функции человеческого нейрона, создав с помощью микропроцессоров ту самую рукотворную нейронную сеть, которая сможет полностью воспроизвести действия человеческих нейронов. При этом нынешний уровень развития микропроцессорной техники позволяет делать это достаточно просто: для создания аналога единичного человеческого нейрона можно использовать уже не самые высокопроизводительные процессоры, хватает и достаточно простых "камней". А вот по количеству отдельных микропроцессоров-нейронов искусственные нейросети пока что сильно отстают от человеческого разума: у нас в мозгу содержится около 65 миллиардов нейронов, а современные компьютерные нейросети оперируют гораздо меньшим числом элементов. С другой стороны, тут на помощь приходит первый, нисходящий подход: как оказалось, наши собственные структуры мозга часто чрезвычайно избыточны. В силу чего, например, сегодня достаточно сложная функция распознавания лиц может быть реализована в рамках очень скромной нейросети, которая доступна даже для недорогих любительских фотокамер — математика помогла в этом случае построить эффективную и простую нейросеть, которая заменяет сложные структуры человеческого мозга.

"ЗАВТРА". Да, способности современных фотоаппаратов, видеокамер и в особенности различных социальных сетей распознавать образы на снимках поражают воображение. Иногда я уже не помню, как зовут человека на фотографии, а какой-нибудь "Фейсбук" уже нашёл его на моих прошлых фотографиях и предлагает его отметить!

Антон БАЛАКИРЕВ. Это и есть зримое отражение прогресса, который прошли нейросети в процессе совершенствования. Возьмём для примера две технологии, где применение ИИ уже дало неоспоримые результаты и ещё большие может принести в ближайшем будущем. Это уже упомянутое распознавание образов и распознавание человеческой речи. В тот момент, когда гиганты ИТ-индустрии занялись вопросом распознавания речи, тогдашние нейросети уже могли распознавать около 95% стандартной человеческой речи. Казалось бы, этого уже вполне хватает для речевого общения человека и компьютера, для управления голосом действиями машин и механизмов. Кстати, обычное общение людей и наш уровень распознавания чужой речи находится где-то на похожем уровне. Однако в отличие от компьютеров, которые понимают любую фразу буквально, люди всё-таки используют контекст сказанного, "достраивая" в уме фразу, обращённую к ним и привязывая её к ситуации. А вот машинные системы это делать тогда не умели (да и не могут сегодня), в силу чего их 5% ошибок распознавания речи выглядели печально для собеседника — складывалось впечатление, что система речи "тупит" и ведёт себя "дебильнее некуда". Однако за последние несколько лет системы распознавания речи научили синтаскису, ввели в них понятие контекста, да и просто подтянули уровень распознавания слов — в итоге получилось, что нынешняя стандартная нейросеть, которой оборудован уже практически любой смартфон, может распознавать до 99% стандартной устной речи. А это уже открывает совсем другие перспективы общения человека и компьютера — реальностью становится отдача приказов голосом, а клавиатуры или сенсорные экраны становятся лишь вспомогательными способами общения с компьютерами и другими "умными" устройствами.

Такой же прогресс наблюдается и в технологии распознавания образов. Ещё около пяти лет назад, когда на рынок вышли первые системы поиска по изображениям, они давали достаточно серьёзный процент ошибок — 13-15%. На сегодняшний день эти системы радикально улучшились: современная нейросеть анализа изображений устойчиво работает с 3-4% ошибок. Для сравнения: человек в аналогичных задачах может ошибаться в 5% случаев.

"ЗАВТРА". А что повлияло на столь впечатляющий прогресс нейросетей? Только ли учёные и их открытия всему виной — или же были другие слагаемые такого рода революционных изменений?

Антон БАЛАКИРЕВ. Конечно, дело не только в прогрессе и в научном поиске.

Во-первых, надо сказать, что составляющей успеха нейросетей было то, что в эту тематику были сделаны в 2000-х годах громадные вложения финансов, инициированные как государственными ведомствами, так и частным бизнесом — в первую очередь, в США. Специфика государственного интереса к нейросетям достаточно понятна, но она часто проходит по категории "секретно" или "совершенно секретно", поэтому тут мы можем лишь предполагать, что ищут государственные нейросети в интернете по ключевым словам и образам, а вот мотивация крупного бизнеса лежит буквально на поверхности. Нейросети позволяют максимально эффективно работать с так называемыми массивами big data ("всеобщие" или "большие" данные), которые возникли благодаря интернету, социальным сетям, современной цифровой фото и видеотехнике, системам автоматического наблюдения и прочим техническим инновациям. Сегодня человечество продуцирует всё более возрастающий объём различной информации — и уже только с помощью мощной нейросети можно его как-то охватить и выстроить поиск в нём, обеспечить извлечение какой-то упорядоченной информации из него — будь то данные о конкретном человеке или предпочтения определённой социальной группы. А для любой крупной корпорации знание о своих возможных или существующих покупателях и клиентах — это громадная сила. Ведь, как пример, за "Фейсбуком" не стоит ничего материального, основная его ценность — это именно знание о подписчике, его социальных связях и предпочтениях. Ту же информацию продают своим партнёрам и "Гугл", и "Яндекс" — каждая из таких компаний выстраивает персональные профили для каждого из своих пользователей, а потом использует данные нейросети, например, для показа рекламы, максимально подходящей именно этому человеку. Впрочем, уже давным-давно известно: ровно в тот момент, когда вы нажали галочку "Я согласен" в окошке вашего браузера, — вы попали в "матрицу" и предоставили все данные о себе в чужие руки.

Вторым феноменом, который обеспечил бурное развитие нейросетей, были сами "большие данные". Всё дело в том, что любой нейросети для обучения нужна "пища для ума" — возможность постоянно анализировать большой поток входящих данных, в работе с которым и определяются, и шлифуются правила принятия решений. Условно говоря, вновь созданная искусственная нейросеть пуста, как разум новорождённого ребёнка: она не имеет никаких правил принятия решений или работы с возможными ошибками. После этого экспериментатор задаёт нейросети правила поиска и отсева, создавая набор ограничений вида "что такое хорошо и что такое плохо". А нейросеть после этого идёт в мир "больших данных" и начинает там самообучаться, иногда получая корректирующие наставления от своих создателей. Поэтому сегодня весь входящий поток информации интернета анализируется различными нейросетями не раз и не два — каждая из них обучается чему-то важному для себя на каждой нашей записи, фотографии, видеоклипе. И этот процесс идёт с ускорением.

"ЗАВТРА". Так что, получается буквально: "Загружая фотографию котика в Вконтакте ты приближаешь приход "Скайнета"?" Нет ли в этом опасной грани утраты контроля над технологией?

Антон БАЛАКИРЕВ. Ну, пока что нейросетям никто не доверяет управление атомными станциями или ракетами с ядерными боеголовками… Однако смешные и поучительные истории в вопросе применения нейросетей уже происходили. Как я уже упоминал, разумное поведение не всегда соответствует нормам человеческой морали — особенно учитывая, что нынешняя общественная мораль существует в целом ряде весьма противоречивых вариантов, многие из которых подвергаются обоснованной критике.

Например, такой полуанекдотичный случай произошёл недавно с известным интернет-магазином Amazon.com, который решил выйти на новый для него уровень, объявив об открытии сервиса "мгновенной доставки", когда заказанные клиентом товары доставляются день-в-день. Таким образом компания пыталась конкурировать с разветвлённой сетью магазинов шаговой доступности в США, которую там называют "форматом 7/11" — они доступны семь дней в неделю и 11 часов в сутки. Понятное дело, задача с помощью почты обеспечить оперативную доставку товаров в режиме "не сильно медленнее, чем сходить в магазин" оказалась не столь тривиальной — в итоге просчёт всех факторов доверили нейросети. Нейросеть взяла "большие данные" — и построила карту того, где она считает возможной доставку день-в-день, а где это начинание по каким-то причинам будет или убыточным или невозможным — например, ожидаемо из этой системы выпали удалённые и малонаселённые районы США.

В итоге карту этого сервиса утвердили и опубликовали на сайте компании. А потом ушлые журналисты подметили, что Amazon почему-то исключила из районов срочной доставки негритянские кварталы — например, в Бостоне доставка оказалась доступной везде, кроме центра города, где был компактный район проживания чернокожего населения. Мотивы такого решения нейросети, в общем-то, очевидны: в негритянских кварталах высок уровень уличной преступности, много людей сидят на государственных пособиях, велик процент безработных и нищих. В общем — не лучшее место для такого сервиса, как срочная доставка. Но, понятное дело, публичная реакция была иной: "Amazon не хочет обслуживать чернокожих! Ку-клукс-клан возвращается!". В конце концов нейросеть отодвинули от составления карты и внесли негритянские кварталы в список доступных для сервиса. Хотя осадочек и остался…

"ЗАВТРА". А как вообще можно оценить степень разумности нейросетей? Они обладают неким внутренним сознанием и целеполаганием?

Антон БАЛАКИРЕВ. Безусловно, целеполагание у нейросетей есть. Любой процесс обучения нейросети и результаты её работы оцениваются исходя из той задачи, что вкладывалась в неё создателями. Другой вопрос, что разумность, как уже было сказано, не стоит путать с "сознанием" или с "интеллектом" — это близкие, но не эквивалентные понятия.

Кстати, наглядно это демонстрируется и текущими успехами нейросетей в деле соперничества с человеком в различных интеллектуальных играх. По состоянию на конец 2016-го года нейросети уже обыгрывают людей во всех популярных интеллектуальных играх — шахматах, шашках, нардах, реверси. Последним бастионом в череде таких игр была древняя китайская игра го, но и она пала под натиском нейросетей: в 2016 году компьютерная нейросеть "Альфа Го" выиграла матч против чемпиона мира, корейца Ли Седоля со счётом 4:1. По утверждению создателей "Альфа Го", они и сами не ожидали такого разгромного счёта — в их планы входило лишь продолжение обучения своего детища в рамках матча с Седолем, а нейросеть взяла и выиграла поединок. Это, кстати, хорошая иллюстрация к вопросу о "Скайнете": нынешние нейросети представляют собой "чёрный ящик", действия которого можно предполагать и прогнозировать лишь в общих чертах. Впрочем, это и есть суть творческого и изобретательского подхода, ведь никто не ожидал от Архимеда выкрика "Эврика!", когда он решил принять ванну в родных Сиракузах.

Интересна "Альфа Го" и как пример успеха в сочетании описанных ранее нисходящего и восходящего подходов: против 65 миллиардов нейронов Ли Седоля играли всего чуть более двух тысяч процессоров "Альфа Го", но современные алгоритмы обучения нейросетей сделали из них победителя чемпиона мира в одной из самых многовариантных игр, созданных человечеством.

Но интересно тут другое. Последним "твёрдым орешком", который никак не могут взломать пока нейросети, является… спортивный покер, одна из самых популярных в мире карточных игр. Проблема нейросети в случае покера оказывается не в том, чтобы оценить все варианты сдачи карт, а в большой неопределённости возможных исходов — в отличие от шахмат или го, в покере результирующие комбинации карт определяются при вскрытии закрытых карт, а большая часть решений и ставок производится при полной неясности позиции соперника. И вот тут-то и оказывается, что нейросеть хоть и разумна, но не может правильно оценивать блеф или повышение ставок своим соперником, пасуя перед психологией и перед искусством покерных игроков достигать выигрышного результата даже при откровенно слабой раздаче. Так что можно сказать, что нейросети разумны, но отнюдь не обладают человеческим сознанием.

"ЗАВТРА". А чем грозит человечеству повсеместное внедрение нейросетей?

Антон БАЛАКИРЕВ. Скорее всего, бояться нейросетей и последствий от их внедрения надо современному среднему классу. Нейросеть очень легко может заменить несложные интеллектуальные процессы, которые сейчас производятся абстрактно-безликими "менеджерами среднего звена", теми самыми клерками, о которых была написана сатирическая песня "ты не такой как все, ты работаешь в офисе".

Если основная мишень промышленных роботов — это индустриальные рабочие в Китае и в странах Юго-Восточной Азии, то нейросети, судя по всему, смогут достаточно быстро оставить без работы миллионы людей в странах "золотого миллиарда", который сегодня предлагает на рынке большое количество информационных и сервисных процессов для своих граждан, да и для всего мира. В рамках массы таких процессов, которые сегодня мыслятся "творческими" или "интеллектуальными", которые требуют десятилетий для обучения, повышения квалификации и практики в случае человека, для нейросетей это не более чем очередной кусок "больших данных", которые надо переварить, учесть и использовать для своего дальнейшего обучения. Нейросети не стареют, не уходят на пенсию, не пьют и не впадают в депрессию, дома их не пилит жена.

Кроме того, заказ на использование нейросетей формирует и само общество, а не только "людоедский мир чистогана". Так, в конце прошлого года произошло знаменательное событие: нейросеть-диагност обошла профессиональных врачей в деле диагностики сложной формы рака. Её диагноз оказался столь же точным, как взвешенное мнение целого консилиума врачей-онкологов, а по отдельности каждый из медиков даже проиграл нейросети. В реальной жизни такое применение нейросети позволило бы спасти жизнь ракового больного — причём диагноз можно было поставить и удалённо, без сбора консилиума специалистов, по рутинным обследованиям пациента, который, кстати, мог бы в этом случае проживать где угодно — хоть в столице, хоть в глухом селе, куда подведён рабочий терминал такой централизованной медицинской нейросети.

Поэтому я думаю, что в ближайшее время, вдобавок к процессу вымывания рабочих из индустриальной сферы и замены их на промышленных роботов, мы увидим и ещё один процесс — массовую замену офисных "белых" и даже "золотых" воротничков на самообучающиеся нейросети, которые возьмут на себя управление массой информационных процессов в современном обществе.

Конечно, возвращаясь к теме ответственности, сознания, морали, — нейросети отнюдь не станут универсальным решением. В тех местах, где подразумевается неизбежная человеческая ответственность, где речь идёт о критических системах и обеспечении безопасности, никто не допустит того, чтобы нейросеть безраздельно отвечала за процесс принятия решений. Как сказал по схожему поводу Владимир Путин, отвечая на вопрос об использовании огромных человекоподобных роботов для защиты рубежей России: "Без участия человека это невозможно. Главное — это пограничник!".

"ЗАВТРА". А кто же тогда примет на себя первый удар нейросетей? Если в России пока что границу будет охранять пограничник с "верным Мухтаром" — то где нам ожидать массового внедрения нейросетей?

Антон БАЛАКИРЕВ. Скорее всего, в авангарде этого процесса мы увидим США. Не берусь сказать, будет ли на пограничной "стене Трампа" работать умная нейросеть, способная отслеживать нелегальных мексиканских мигрантов и сообщать о нарушителях куда следует, но то, что в США процесс внедрения нейросетей стартовал активнее всего, — это однозначно.

В Соединённых Штатах есть и мощный средний класс, на замену которому были разработаны современные нейросети, и есть целый консорциум транснациональных корпораций, которые вложили миллиарды долларов в разработку этой технологии. Впрочем, Россия тут тоже отнюдь не в арьергарде — достаточно вспомнить, что "Сбербанк" собрался уволить 3000 своих юристов-исковиков и заменить их централизованной компьютерной системой. В общем, "дивный новый мир" постучится и к нам…

"ЗАВТРА". Большое спасибо за очень интересную беседу.

Беседовал Алексей АНПИЛОГОВ

От редакции.

В конце января 2017 года в казино Питтсбурга (США) нейросеть Libratus выиграла матч-реванш по покеру из 120 тысяч раздач против четырех профессиональных игроков.

Источник