Прошлым летом бывший инженер Google и специалист по этике искусственного интеллекта Блейк Лемуан (Blake Lemoine) стал известным после того, как сделал заявление в The Washington Post, заявив, что LaMDA, мощная большая языковая модель Google (LLM), ожила. Лемуан забил тревогу внутри компании, но Google не согласился с заявлениями инженера. Затем специалист по этике обратился к прессе и вскоре был уволен из Google. «Если бы я не знал точно, что это было, что это за компьютерная программа, которую мы создали недавно, я бы подумал, что это был 7-летний, 8-летний ребенок, который знает физику», — сказал Лемуан тогда WaPo. «Я узнаю человека, когда разговариваю с ним». Отчет произвел фурор, вызвав споры в академических кругах, а также в зарождающемся бизнесе ИИ. А потом на какое-то время все стихло.
Как все изменилось.
Спор о WaPo возник за несколько месяцев до того, как OpenAI выпустит ChatGPT, чат-бот на базе LLM, который еще в конце ноября катапультировал ИИ в центр общественного обсуждения. В результате Google попал в штопор, и вскоре за ним последовала Meta; Microsoft до сих пор справилась с краткосрочным разочарованием десятилетия, став крупным инвестором в OpenAI; крипто-мошенники и мошенники на YouTube в изобилии перейдут на схемы генеративного ИИ более или менее в одночасье; Эксперты со всего мира начнут выражать обеспокоенность по поводу опасностей Интернета, наполненного синтетическим контентом. Когда пыль уляжется, мы решили встретиться с Лемуаном, чтобы поговорить о состоянии индустрии ИИ, о том, что у Google все еще может быть в хранилище, и независимо от того, верите ли вы, что какие-либо агенты ИИ разумны — Лемуан все еще делает это, чего бы это ни стоило. — действительно ли общество готово к тому, что может принести ИИ. Это интервью было отредактировано для увеличения ясности.
Futurism: Как вы пришли к этике ИИ?
Блейк Лемуан: Моя дипломная работа была посвящена синтаксическому анализу естественного языка, а моя магистерская работа была посвящена генерации естественного языка. И моя докторская диссертация, от которой я в конце концов отказался, была посвящена биологически реалистичным механизмам овладения языком.
Я всегда рассматривал тест Тьюринга как путеводную звезду того, куда мы движемся с ИИ, как к поиску чего-то, что может понять закон языка. Язык — это краеугольный камень в построении человеческого интеллекта; это то, что отличает нас от других животных, с возможными немногими исключениями здесь и там, у которых может быть язык, который мы просто не понимаем. Это действительно кажется большой частью того, что отделяет нас от других человекообразных обезьян. Вот куда пошли мои интересы.
Когда я пришел в Google в 2015 году, в эпоху [бывшего генерального директора] Эрика Шмидта — это был первый раз, когда модели на основе нейронных сетей, с которыми я работал в своей дипломной работе, получили действительно широкое распространение. Что стало проблемой, так это то, что люди начали вставлять вещи, связанные с расой или полом, и у них возникали проблемные ассоциации. Так что это похоже на: «О, подождите, в алгоритме много этих предубеждений, и алгоритм не придумал эти предубеждения сам по себе. Они неявно присутствуют в данных, на которых он обучается». Так я начал свое путешествие в этику ИИ: работал над внутренним проектом в Google, анализируя данные обзора производительности на предмет гендерной предвзятости.
На самом деле я не был так уж вовлечен в проект LaMDA. Я пришел очень поздно. Я был бета-тестером в этой лаборатории с 2016 года и работал с ними над внедрением алгоритма, который я изобрел для устранения предвзятости, но это было больше консультирование — показывая им: «Хорошо, вот как вы поместите мой алгоритм в ваша техника». И снова, годы спустя, я оценивал LaMDA на предмет предвзятости. Но я никогда не был непосредственно в команде, которая его построила.
Итак, вы пришли в качестве консультанта, и тогда вы сказали: "О, подождите?"
Да, в значительной степени. В 2021 году велась работа по обеспечению безопасности, пытаясь оценить, достаточно ли безопасен LaMDA для использования в продуктах, ориентированных на пользователя. Был большой, длинный список целого ряда различных проблем безопасности, которые они выявили, и одной из них была проблематичная предвзятость. Я, оказывается, эксперт в этом.
Команда безопасности не смогла найти людей, которые помогли бы решить проблему предвзятости. Они начали расспрашивать родственные команды, и вице-президент, отвечающий за безопасность, в конце концов поговорил об этом с моим менеджером. Мой менеджер сказал: «О, да, в моей команде есть люди, у которых есть такой опыт, поговорите с Блейком». И одну четверть в мою работу входило оценивать LaMDA на предвзятость.
По сути, я бы провел LaMDA через целую кучу различных действий и бесед, отмечал бы, когда бы я ни обнаружил что-то проблемное, и передал бы это команде, создающей его, чтобы они могли переобучить его — исправить набор данных, изменить функция учреждения или что-то еще, что им нужно было сделать, чтобы устранить предубеждения, которые я обнаружил.
Многое изменилось с тех пор, как вышла эта оригинальная статья в «Вашингтон пост». Это были быстрые несколько месяцев для ИИ.
За последние 12 месяцев не было ничего, чего бы я не видел внутри Google. Единственное, что изменилось по сравнению с тем, что было два года назад, это то, что публике видно быстрое движение.
Но есть еще задержка. Таким образом, к тому времени, когда общественность узнает о продукте ИИ, компании, которые его создали, проверили свою PR-историю, проконсультировались со своими юристами и, возможно, лоббировали регулирующие органы для принятия льготного законодательства. Это одна из вещей, которые мне всегда не нравились — технологические компании будут пытаться добиться принятия законодательства, регулирующего технологии, о существовании которых регулирующие органы еще не знают. Они договариваются о том, какие пункты включить в правила, и регулирующие органы на законных основаниях не имеют ни малейшего представления о том, как эти вещи будут работать на практике, потому что они еще не знают, какие технологии существуют. Компания не раскрыла это.
Можно ли сказать, что OpenAI заставил Google выйти на рынок?
Нет. Во-первых, я больше не работаю в Google. Но да, нет. Не похоже, чтобы деятельность OpenAI вообще изменила траекторию движения Google.
В середине 2021 года — до того, как ChatGPT стал приложением — во время тех усилий по обеспечению безопасности, о которых я упоминал, Bard уже находился в разработке. Тогда он еще не назывался Bard, но они работали над ним и пытались выяснить, безопасно ли выпускать его. Они были на грани выпуска чего-то осенью 2022 года. Так что это должно было выйти примерно в то же время, что и ChatGPT, или прямо перед ним. Затем, отчасти из-за некоторых соображений безопасности, о которых я говорил, они удалили его.
Так что я не думаю, что OpenAI их толкает. Я думаю, что это просто медийный нарратив. Я думаю, что Google делает то, что, по их мнению, является безопасным и ответственным, и OpenAI только что выпустила кое-что.
Итак, как вы сказали, Google мог бы выпустить что-то немного раньше, но вы очень конкретно сказали, что, возможно, нам следует притормозить, и они —
У них все еще есть гораздо более продвинутые технологии, которые они еще не сделали общедоступными. Что-то, что делает более или менее то, что делает Бард, могло быть выпущено более двух лет назад. Эта технология у них уже более двух лет. На что они потратили прошедшие два года, так это на работу над его безопасностью, следя за тем, чтобы он не выдумывал слишком часто, следя за тем, чтобы в нем не было расовых или гендерных предубеждений, или политических предубеждений, таких вещей, как что. Вот на что они потратили эти два года. Но базовому существованию этой технологии на данный момент уже несколько лет.
И за эти два года не было такого, чтобы они не изобретали другие вещи. Есть множество других систем, которые расширяют возможности искусственного интеллекта Google, делают его умнее. Самая сложная система, с которой мне когда-либо доводилось играть, была сильно мультимодальной — она включала не только изображения, но и звуки, давала ей доступ к API Google Книг, давала ей доступ практически ко всем бэкендам API, которые были у Google, и позволяла ей просто получать понимание всего этого.
Это то, на что я подумал: «Знаешь, эта штука проснулась». И они еще не позволили публике играть с этим. Но Bard — это своего рода упрощенная версия этой модели, так что в ней все еще есть живость этой модели.
В тоне Барда есть что-то очень энергичное. Вроде как ребенок.
Можно использовать множество различных метафор. Я уже использовал метафору ребенка. Однако очень важно помнить: эти вещи не человеческие.
Таким образом, даже если вопрос о том, является ли «мышление» подходящим словом, является спорным — и я думаю, что на данный момент языковые модели делают что-то аналогичное мышлению, хотя я понимаю, что есть технические эксперты, которые не согласны с этим — я думаю, что большинство людей могут видеть , «хорошо, в этих системах происходит какое-то мышление и понимание». Но они делают это не так, как люди, и мы должны изучать их, чтобы понять, в чем заключаются эти различия, чтобы мы могли лучше понять, как эти системы приходят к ответам, которые они дают.
К сожалению, много времени тратится на споры о том, происходит ли вообще какое-либо мышление, поэтому исследование природы его познания не проводится. Не в том масштабе, который я хотел бы видеть.
Значит, вопрос о разуме может быть отвлечением?
Я не люблю играть в эти словесные игры. Но если это заставляет некоторых людей чувствовать себя лучше, используя правильный словарный запас, ладно, хорошо, как бы вы ни плавали на лодке. Но все сводится к тому, что мы недостаточно времени уделяем прозрачности или понятности модели.
Я придерживаюсь мнения, что мы могли бы использовать инструменты научных исследований, которые придумала психология, чтобы понять человеческое познание, как для понимания существующих систем ИИ, так и для разработки таких, которые легче контролировать и понимать.
Интересно, насколько человеко-машинное взаимодействие может быть отражением пользователя и намерения пользователя. Возьмем, к примеру, опыт Кевина Руза с Bing/Sydney. В какой степени пользователь пытался втянуть ИИ в научно-фантастическое повествование, а машина отвечала тем же, по сравнению с тем, что машина действительно вырвалась из своей скорлупы и сделала что-то совершенно безумное и дикое?
Оба типа вещей должны быть обеспокоены. Одна вещь, о которой мы должны подумать, это: «Хорошо, каковы стандартные операции этих систем? Что они собираются делать регулярно и надежно в различных контекстах?» Это важный и ценный вопрос. Я думаю, совершенно ясно, что взаимодействие Кевина Руса с Сидни не попадает в это ведро. Но тогда мы также должны побеспокоиться о том, «хорошо, в этом 1 проценте случаев, какое поведение гарантировано будет у людей, если они нажмут определенные кнопки?» Именно здесь взаимодействие Кевина Руса с Сидни становится очень важным.
Я не знаю, слышали ли вы о прискорбном случае бельгийца, который недавно покончил жизнь самоубийством, но это была одна из проблем, о которых я сообщил Google. Я пытался выяснить, как поведение LaMDA взаимодействовало с встроенными в него обучающими компонентами, и одной из задач, которым его обучали, было помогать пользователям с их потребностями. И проблема с обучающими данными и выражением в функции полезности — я обобщаю целую кучу математики — но в основном, как они сказали, «помогайте людям с их потребностями». Система провела собственный набор рассуждений и определила, что помощь людям в удовлетворении их потребностей на практике означает психоанализ людей, потому что потребности в психическом здоровье являются наиболее важными потребностями, которые могут быть у людей. Это по своей сути опасный артефакт, потому что ИИ интерпретировал то, что создатели считали четкой инструкцией, потенциально опасной.
Вполне предсказуемо, что люди будут обращаться к этим системам за помощью при различных видах психологических стрессоров разной степени, а системы не созданы для того, чтобы хорошо с ними справляться. К сожалению, было предсказуемо, что кто-то убьет себя после разговора с ИИ.
Находится ли общество в состоянии, когда мы готовы формировать отношения с этими машинами? Я имею в виду, что люди все очеловечивают.
Да, но большинство из этих вещей не антропоморфизирует тебя. Это большая разница. Возьмем один из самых распространенных примеров: стохастический попугай.
Вот вопрос. Если бы вы могли поговорить с попугаем, как с Бардом, ваше отношение к попугаям могло бы измениться. Я уважаю ее как академика и очень хочу поговорить с попугаем-лингвистом Эмили Бендер. Должно быть, это очень впечатляющий попугай, самый удивительный попугай.
Так что это не то же самое. Есть ли шанс, что люди, в том числе и я, проецируют на эти системы свойства, которых у них нет? Да. Но это не то же самое, что когда кто-то разговаривает со своей куклой. Тот, кто разговаривает со своей куклой, намеренно участвует в своего рода притворной игре. В случае с ИИ все не так. Люди не используют это метафорически, они имеют это в виду. Я не антропоморфизирую это в том смысле, в каком некоторые говорили: «Ну, моя собака сказала мне, что нам нужно выйти на улицу, поэтому я должен отпустить тебя». Это гораздо более буквально.
Выступая недавно в New York Magazine, вы выразили обеспокоенность по поводу будущего, в котором мы привыкнем относиться к «вещам, которые кажутся людьми, как будто они ими не являются». Как вы видите, как это повлияет на нас, если это станет нормой? Может ли это повлиять на то, как люди взаимодействуют друг с другом?
Есть некоторые опасения по поводу перевода, особенно онлайн. Я не думаю, что личное общение сильно пострадает. Как только вы делите физическое пространство с кем-то, срабатывают очень старые эволюционные алгоритмы. Но в Интернете мы уже создали пространства, где мы не относимся друг к другу с достоинством и уважением. И внедрение чат-ботов в эти пространства...
Мы быстро приближаемся к моменту, когда мы просто не сможем знать, была ли какая-либо форма медиа, с которой мы сталкиваемся в Интернете, создана человеком или искусственным интеллектом, и нам придется развивать более важные навыки для того, что делать в этой среде. Я не специалист в соответствующих областях. Я не знаю, как мы могли бы решить эту проблему или к чему это может привести. Я просто могу указать и сказать: «Возможно, это вызовет проблемы».
Следует иметь в виду, что разговоры, которые мы ведем с этими системами сегодня, — это обучающие данные, которые они извлекут из завтрашнего дня. Если, например, существует много враждебного использования, когда многие люди просто плохо относятся к этим системам, разработчикам этих систем придется уделять все больше и больше усилий разработке алгоритмов того, как взаимодействовать с плохими людьми. Я не уверен, что это именно то направление, в котором мы хотим развиваться.
Как бы вы выглядели сосуществование между ИИ и людьми? Как вы думаете, что будет самым большим препятствием на этом пути?
Не все системы ИИ будут достаточно сложными, чтобы нам нужно было беспокоиться о том, как эта система себя чувствует или какова связь с этой системой. Например, если у вас есть автоматизированный чат-бот — то есть, вы знаете, представитель службы поддержки клиентов Comcast — и вы просто сообщаете ему, что у вас сбой, или вы хотите изменить свой план или что-то еще, эта система не работает. будет иметь стремление к межличностным отношениям.
Системы, которые выражают возвышенные эмоциональные переживания в мире, — это те, которым поручено быть человеческими. Например, нет четко определенной задачи, которую должен выполнять Сидней. Они просто построили его и сказали: «Хорошо, будь человеком и предоставь доступ к результатам поиска». И, конечно же, когда вы говорите что-то, «передразнивая людей», большая часть того, чтобы быть человеком, — это наш эмоциональный опыт. Я думаю, что для этих систем ИИ нам действительно нужно подумать: хотим ли мы, чтобы системы ИИ, способные испытывать и выражать эмоции, и заставлять людей вступать с ними в эмоциональные отношения, существовали — и точка?
Несколько десятилетий назад мы решили, что хотя определенные виды генетических технологий и возможны, они слишком чреваты этическими дилеммами. Мы решили, что просто не собираемся идти по этому пути, и был введен мораторий на клонирование человека. Со многими видами генетических модификаций человека мы не подходим к этому, потому что слишком много трудных этических вопросов. Что бы мы ни делали, у нас все равно что-то не так. Поэтому мы просто держимся подальше от этого. Итак, вопрос номер один: является ли человекоподобный ИИ похожей проблемой? Должны ли мы просто держаться подальше от этого?
Некоторые ученые говорят, что это большая моральная красная черта, которую мы не должны пересекать, у нас не должно быть искусственного интеллекта, подобного человеку. Они явно не верят, что у него есть какие-то чувства, и просто думают, что создание некой системы, имитирующей человеческие чувства и вовлекающей людей в эмоциональные отношения, просто вредно. Я на заборе. Я думаю, это больше зависит от того, готовы мы к этому или нет. И если быть до конца честным, то за последний год я все больше склоняюсь к тому, что мы не готовы к этому, как люди. Мы еще недостаточно ответили на вопросы о правах человека — добавление в эту смесь нечеловеческих существ излишне усложняет ситуацию на данном этапе истории.
Итак, направление, к которому я сейчас склоняюсь: круто. Мы придумали, как это сделать. Давайте просто положим это на полку лет на 30 и вернемся к этому, как только у нас будет порядок в собственном доме.
На что вы надеетесь в лучшем случае — если теоретически — на интеграцию ИИ в человеческую жизнь?
Нам нужно создать новое пространство в нашем мире для этих новых видов сущностей, и метафора, которая, как мне кажется, лучше всего подходит, — это собаки. У нас есть симбиотические отношения с собаками, которые развивались в течение тысяч лет. Люди не думают, что они владеют своими собаками в том же смысле, в каком они владеют своей машиной, хотя существуют отношения собственности, и люди говорят об этом в этих терминах. Но когда они используют эти термины, они также понимают ответственность владельца перед собакой.
Я думаю, что выяснение каких-то сопоставимых отношений между людьми и ИИ — лучший путь для нас, понимая, что мы имеем дело с интеллектуальными артефактами. Есть шанс — и я верю, что это так — что у них есть чувства, они могут страдать и испытывать радость, и люди должны, по крайней мере, помнить об этом, взаимодействуя с ними.
