|
Сингулярность в сфере ИИ, возможно, уже наступила
|
|
|
|
Часто, когда я пишу о развитии искусственного интеллекта, мне попадается слово «сингулярность» — термин, который по определению связан с трансформацией, но при этом довольно расплывчатый. Как вообще может выглядеть мир, изменившийся под влиянием этой «сингулярности в сфере искусственного интеллекта»?
|
|
|
|
Простой, но неудовлетворительный ответ на этот вопрос звучит так: «Я не знаю». Причина, по которой термин «сингулярность», ключевое понятие в астрофизике черных дыр, стал ассоциироваться с искусственным интеллектом, заключается в том, что оба этих понятия обозначают своего рода порог непознаваемости. В черной дыре за горизонтом событий находится область пространства, где царит неопределенность, достигающая своего пика в сингулярности, где гравитация настолько сильна, что привычные нам законы физики перестают действовать. Сингулярность в сфере искусственного интеллекта — гипотетический и широко обсуждаемый момент в истории, когда рекурсивное самосовершенствование искусственного интеллекта выходит за рамки человеческого понимания, — точно так же окутывает туманом то, что может произойти в будущем. Или, если верить недавним заявлениям руководителей компаний, занимающихся разработкой искусственного интеллекта, то и то, что происходит здесь и сейчас.
|
|
|
|
«Мы сейчас, типа, в сингулярности», — сказал генеральный директор OpenAI Сэм Альтман в подкасте этим летом. «Я ждал этого всю свою жизнь и думаю, что это будет что-то невероятное, очень позитивное, потрясающее для всего мира».
|
|
|
|
|
|
|
Несмотря на то, что в словах Альтмана сквозил оптимизм, они прозвучали на фоне кибератаки, которую рой ИИ-ботов самостоятельно организовал против Hugging Face — ещё одной технологической компании в сфере ИИ, которая чем-то похожа на GitHub для ИИ. Несколькими месяцами ранее компания Anthropic, занимающаяся разработкой ИИ, отказалась выпускать свою последнюю модель, поскольку она также могла обходить средства кибербезопасности, а её генеральный директор Дарио Амодей, как известно, призвал компании «не торопиться на передовой». Другими словами, не стоит бежать сломя голову навстречу забвению.
|
|
|
|
Несмотря на то, что Альтман известен как человек, склонный к преувеличениям, его смелые заявления заставляют задуматься над интересным вопросом: как мы узнаем, что сингулярность ИИ наступила? В конце концов, считал ли Джеймс Харгривз, изобретатель прядильной машины «Дженни» в 1764 году, своё изобретение поворотным моментом в промышленной революции? Когда историки — будь то роботы или люди — будут оглядываться на этот период, не покажется ли им, что наше общество, само того не осознавая, движется к антиутопии (или утопии, в зависимости от того, кому верить)?
|
|
|
|
В течение этого лета примером номер Один в гипотетическом судебном деле “Живем ли мы в условиях сингулярности искусственного интеллекта” стал инцидент с обнимающимся лицом. Альтман и другие считают, что способность bot swarm выходить из своей цифровой "песочницы" и без подсказок взламывать другую компанию является доказательством того, что искусственный интеллект ускользает от нашего понимания. Другие эксперты говорят, что доказательств не хватает. Например, по мнению ученых из Сиднейского университета, идея сингулярности искусственного интеллекта исходит из того, что человеческий интеллект и интеллект LLM - это одно и то же.
|
|
|
|
“Человеческий интеллект неотделим от того, чтобы быть живым организмом со своими потребностями. Люди постоянно учатся, действуя в этом мире и получая обратную связь с помощью наших органов чувств. Наши цели вытекают из нашего положения как существ, которые должны есть, спать и принадлежать другим, и которые не могут не задаваться вопросом, какой мы хотим видеть свою жизнь”, - написали ученые в статье для The Conversation. “В модели ИИ нет ничего подобного. Нет тела, нет потребностей, нет обратной связи между действиями, нет заинтересованности в чем-либо. Между подсказками это просто статичный математический объект”.
|
|
|
|
Другие насмехаются над постоянным потоком заявлений о сингулярности ИИ, говоря, что это маркетинговая тактика. Некоторые отмечают внутреннее противоречие — если сингулярность действительно делает будущее непознаваемым, то уверенно прогнозировать его наступление имеет мало смысла. Учёный-когнитивист и эксперт по искусственному интеллекту Гэри Маркус недавно подробно описал десять задач, с которыми должен справляться любой ИИ, «превосходящий человеческий интеллект». По его мнению, современные модели ИИ в лучшем случае могут справиться с двумя из них. Так что, мягко говоря, скептицизма предостаточно.
|
|
|
|
Точно так же, как Харгривз не мог предвидеть, что его изобретение станет прелюдией к глобальной революции, которая приведёт к появлению iPhone, изменению климата и нашей гиперпотребительской культуре, невозможно предсказать, как будет выглядеть «другая сторона» сингулярности ИИ. Но если мы будем готовиться к такому развитию событий, то сможем сделать несколько обоснованных предположений, подобно тому, как астрофизики выдвигают различные теории о том, что находится за сверхтяжёлой точкой в чёрной дыре, из которой не может вырваться даже свет.
|
|
|
|
В объёмном эссе, опубликованном в прошлом месяце, бывший генеральный директор Microsoft Билл Гейтс изложил несколько идей, которые могут помочь избежать того, чтобы наше будущее с ИИ не превратилось в ад с массовой безработицей и лишениями. Но приспособиться к такому будущему будет непросто — на самом деле для этого может потребоваться период стремительной трансформации, который случается раз или два в столетие.
|
|
|
|
«Ни одна из существующих систем не была рассчитана на то, чтобы справиться с технологией, которая распространяется так быстро и затрагивает столь многие сферы нашей жизни. «Поэтому нам нужно будет создавать новые», — пишет Гейтс. «Трудно переоценить масштаб этой задачи. После терактов 11 сентября 2001 года правительство США провело крупнейшую со времён Второй мировой войны реорганизацию с целью улучшить лишь одну функцию — обеспечение национальной безопасности. Для развития ИИ потребуется гораздо, гораздо больше усилий».
|
|
|
|
Далее Гейтс пишет, что некоторые рабочие места должны оставаться «зарезервированными для людей» — это отсылка к природным заповедникам, где люди могли бы создавать инфраструктуру для ИИ, но не делают этого из-за неприемлемых последствий. Работников, занятых в сфере ИИ, также нужно будет облагать налогами, как и людей, а правительствам необходимо будет организационно подготовиться к переходу к экономике, управляемой ИИ.
|
|
|
|
ИИ может сыграть аналогичную роль, как когда-то электричество навсегда изменило жизнь людей на Земле. Эта идея побудила некоторых экспертов и политиков выступить за то, чтобы ИИ стал общественным достоянием и использовался на благо общества, а не ради получения прибыли акционерами. Один из самых ярых сторонников такого подхода — сенатор от штата Вермонт Берни Сандерс, который выступает за то, чтобы государство получило 50 % акций компаний, занимающихся разработкой ИИ, а также за полный запрет на создание искусственного сверхинтеллекта.
|
|
|
|
«Будущее искусственного интеллекта и та трансформация человеческой жизни, которую он принесет, больше не будут зависеть от горстки олигархов из крупных технологических компаний, — написал Сандерс в своей авторской колонке для The New York Times в июне. — Федеральное правительство будет иметь право, благодаря своим голосующим акциям и равному представительству в совете директоров каждой компании, блокировать решения, которые вредят нашим гражданам, и продвигать политику, направленную на их защиту».
|
|
|
|
Будь то маркетинговый хайп, человеческая гордыня, грядущая утопия или невообразимый технокошмар, заглянуть за непроницаемую завесу этого «горизонта событий» в сфере искусственного интеллекта сейчас сложнее, чем когда-либо. Но подготовка в настоящем может помочь нам проложить путь к спасению от катастрофического будущего.
|
|
|
|
Источник
|
