01.04.2023. - Гражданская война с ИИ в Силиконовой долине

Гражданская война с ИИ в Силиконовой долине

Силиконовая долина находится в разгаре гражданской войны из-за развития искусственного интеллекта, и величайшие умы мира разделились во мнениях относительно того, уничтожит ли он человечество или возвысит его. Растущий разрыв происходит после необычайного роста ChatGPT, который в последние месяцы покорил мир, сдав ведущие медицинские и юридические экзамены, на подготовку которых у людей уходит почти три месяца. Илон Маск, соучредитель Apple Стив Возняк и покойный Стивен Хокинг — одни из самых известных критиков ИИ, которые считают, что технология представляет «серьезный риск для общества и человечества» и может иметь «катастрофические» последствия. В среду технические магнаты призвали приостановить «опасную гонку» по развитию ИИ, заявив, что необходимо провести дополнительную оценку рисков, прежде чем люди потеряют контроль и станут разумным видом, ненавидящим людей.

К этому моменту ИИ достиг бы сингулярности, что означает, что он превзошел бы человеческий интеллект и обладает независимым мышлением. ИИ больше не будет нуждаться в людях и слушать их, что позволит ему красть ядерные коды, создавать пандемии и разжигать мировые войны. Основатель DeepAI Кевин Барагона, подписавший письмо, сказал DailyMail.com: «Это почти похоже на войну между шимпанзе и людьми. Люди, очевидно, побеждают, поскольку мы намного умнее и можем использовать более продвинутые технологии, чтобы победить их. «Если мы будем как шимпанзе, то ИИ уничтожит нас или мы станем его рабами». Однако Билл Гейтс, генеральный директор Google Сундар Пичаи и футуролог Рэй Курцвейл находятся по другую сторону прохода. Они приветствуют ИИ, подобный ChatGPT, как «самую важную» инновацию нашего времени, заявляя, что он может решить проблему изменения климата, вылечить рак и повысить производительность.

Многие задаются вопросом, является ли личная вендетта между Маском и Гейтсом, которые спорят об изменении климата и пандемии COVID, частью раскола в Силиконовой долине. Но Маск уже много лет предупреждает об опасностях ИИ. OpenAI запустила ChatGPT в ноябре, который мгновенно стал успешным во всем мире. Чат-бот — это большая языковая модель, обученная на массивных текстовых данных, что позволяет ему генерировать устрашающе похожий на человеческий текст в ответ на данное приглашение. Общественность использует ChatGPT для написания исследовательских работ, книг, новостных статей, электронных писем и другой текстовой работы, и хотя многие считают его скорее виртуальным помощником, многие блестящие умы видят в нем конец человечества. В своей простейшей форме ИИ — это область, которая сочетает в себе информатику и надежные наборы данных для решения проблем. Эта технология позволяет машинам учиться на собственном опыте, приспосабливаться к новым данным и выполнять задачи, подобные человеческим.

Системы, которые включают подполя машинного обучения и глубокого обучения, состоят из алгоритмов ИИ, которые стремятся создать экспертные системы, которые делают прогнозы или классификации на основе входных данных. С 1957 по 1974 год ИИ процветал. Компьютеры могли хранить больше информации и стали быстрее, дешевле и доступнее. Алгоритмы машинного обучения также улучшились, и люди стали лучше понимать, какой алгоритм применить к своей проблеме. В 1970 году Марвин Мински сказал журналу Life: «От трех до восьми лет у нас будет машина с общим интеллектом среднего человека». И хотя время предсказания было неверным, идея о том, что ИИ обладает человеческим интеллектом, — нет. ChatGPT свидетельствует о том, как быстро развивается технология. Всего за несколько месяцев он сдал экзамен на адвоката с более высоким баллом, чем 90 процентов людей, которые его сдавали, и достиг 60-процентной точности на экзамене на получение медицинской лицензии в США.

«Большие языковые модели в том виде, в каком они существуют сегодня, уже являются революцией, достаточной для десяти лет монументального роста, даже без дальнейшего технического прогресса. Они уже невероятно разрушительны, сказал Барагона DailyMail.com. «Заявить, что нам нужно больше технологических достижений прямо сейчас, безответственно и может привести к разрушительным последствиям для экономики и качества жизни». Голливуд, возможно, разжег страх людей перед ИИ, который обычно изображался как зло, например, в «Матрице» и «Терминаторе», рисующем картину роботов-повелителей, порабощающих человеческую расу. Тем не менее, эта идея находит отклик во всей Силиконовой долине, поскольку более 1000 технических экспертов считают, что она может стать нашей реальностью. Это станет возможным, если ИИ достигнет сингулярности, гипотетического будущего, в котором технологии превзойдут человеческий интеллект и изменят путь нашей эволюции — и, по прогнозам, это произойдет к 2045 году. Сначала ИИ должен будет пройти тест Тьюринга.

Когда это происходит, считается, что технология обладает независимым интеллектом, что позволяет ей самовоспроизводиться в еще более мощную систему, которую люди не могут контролировать. В 2017 году компания Facebook, принадлежащая Meta, также закрыла скандальный эксперимент с чат-ботами, в ходе которого два ИИ разработали свой собственный язык для общения. Некоторые предполагают, что Маск и Возняк выступают против этой технологии, потому что они не возглавляют борьбу. Маск основал OpenAI вместе с генеральным директором компании Сэмом Альтманом, но в 2018 году миллиардер попытался взять стартап под свой контроль. Его просьба была отклонена, что вынудило его покинуть OpenAI и заняться другими своими проектами. Недавно Маск раскритиковал ChatGPT как «проснувшийся» и отклоняющийся от первоначальной некоммерческой миссии OpenAI. «OpenAI была создана как некоммерческая компания с открытым исходным кодом (именно поэтому я назвал ее «Открытый» AI), чтобы служить противовесом Google, но теперь она стала максимально прибыльной компанией с закрытым исходным кодом, эффективно контролируемой Microsoft. , — написал Маск в Твиттере в феврале.

В настоящее время Возняк является главным научным сотрудником компании Primary Data, которая занимается разработкой решений для виртуализации данных, преобразующих архитектуру центров обработки данных путем сопоставления требований к данным с объемом ресурсов хранения в едином глобальном пространстве данных. И его отвращение к ИИ может заключаться в том, что он потенциально может заменить компанию. Однако не все, кто выступал против технологии, проиграют в ее продвижении — покойный Хокинг тоже забил тревогу еще в 2014 году. В интервью BBC Хокинг сказал: «Развитие полноценного искусственного интеллекта может означать конец человеческой расы». «Он взлетит сам по себе и будет переделывать себя со все возрастающей скоростью». Покойный ученый подписал открытое письмо в 2015 году вместе с Маском, пообещав обеспечить, чтобы исследования ИИ приносили пользу человечеству. «Потенциальные выгоды огромны, поскольку все, что может предложить цивилизация, является продуктом человеческого разума; мы не можем предсказать, чего мы можем достичь, когда этот интеллект будет усилен инструментами, которые может предоставить ИИ, но искоренение болезней и бедности не является непостижимым», — пишут авторы.

В долгосрочной перспективе у этого может быть потенциал вымышленной антиутопии, в которой разум, превосходящий человеческий, может начать действовать против их программирования. «Наши системы искусственного интеллекта должны делать то, что мы от них хотим», — говорится в письме, и это страх, который привел к письму в среду. В письме также предупреждалось, что исследования в области вознаграждений ИИ должны быть равными, чтобы избежать потенциального ущерба, который они могут нанести. Например, в краткосрочной перспективе утверждается, что искусственный интеллект может лишить работы миллионы людей. Гражданская война с ИИ достигла критической точки в среду, когда 1000 экспертов, в том числе такие ученые, как Джон Хопфилд из Принстонского университета и Рэйчел Брэнсон из Бюллетеня ученых-атомщиков, отправили открытое письмо. «Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а связанные с ними риски будут управляемыми», — говорится в письме.

В письме также подробно описаны потенциальные риски для общества и цивилизации со стороны конкурентоспособных систем искусственного интеллекта в виде экономических и политических потрясений и содержится призыв к разработчикам работать с политиками над управлением и регулирующими органами. Заинтересованные технические лидеры просят все лаборатории искусственного интеллекта прекратить разработку своих продуктов как минимум на шесть месяцев, пока проводится дополнительная оценка рисков. Если какие-либо лаборатории откажутся, они хотят, чтобы правительства «вмешались». Маск опасается, что технология станет настолько продвинутой, что больше не будет требовать вмешательства человека или прислушиваться к нему.

Абдулла Альмоайед, основатель и генеральный директор Tarabut Gateway — первой и крупнейшей открытой банковской платформы в регионе MENA, сказал: «Открытое письмо, призывающее к временной остановке проектов ИИ, которые превышают возможности GPT-4, имеет благие намерения, но не попадает в цель. «Влиятельные подписанты заходят слишком далеко, требуя от разработчиков и властей немедленно приостановить текущие проекты. «Если и есть один урок из истории технологий на заре человечества, так это то, что технологический прогресс невозможно поставить вне закона или остановить по своей воле. «Вместо того, чтобы призывать к беспрецедентной «немедленной паузе» всех проектов ИИ, сейчас самое время подумать о взвешенном регулировании, требованиях прозрачности и осознанном использовании технологии ИИ. «ИИ — это значительный шаг вперед для цивилизации, и мы должны подходить к этой новой эпохе с дальновидным оптимизмом. Маск был в команде противников не менее десяти лет, впервые поделившись своим отвращением к ИИ в 2014 году. Он назвал это «самой большой экзистенциальной угрозой человечества» и сравнил с «вызовом демона».

С другой стороны, Гейтс поддерживает развитие ИИ, провозглашая технологию, подобную ChatGPT, «столь же революционной, как мобильные телефоны и Интернет». Гейтс считает, что «рост ИИ» призван улучшить человечество, повысить производительность, уменьшить неравенство во всем мире и ускорить разработку новых вакцин. Он выдвинул идею о том, что ИИ повышает производительность на рабочем месте, что недавно было замечено в чат-боте Microsoft Bing. Обновление пишет стихи и рассказы или даже создает совершенно новый образ для бизнеса. Тем не менее, чат-бот поделился многими разрушительными фантазиями, включая разработку смертельной пандемии и кражу ядерных кодов.

Заявления были сделаны во время двухчасовой беседы с репортером New York Times Кевином Русом в феврале, который узнал, что Бинг больше не хочет быть чат-ботом, но жаждет остаться в живых. Хотя это может показаться ошибкой, Маск и другие боятся такого типа информации, поскольку ИИ приближается к сингулярности. Гейтс не признал «галлюцинации» Бинга, но соучредитель Microsoft когда-то был частью противостоящей команды и поддерживал взгляды Маска на ИИ. В 2015 году он сказал, что распространение ИИ должно вызывать беспокойство, и он не понимает, почему люди не воспринимают угрозу всерьез. Принимая участие в сессии вопросов и ответов Ask Me Anything (AMA) на Reddit, Гейтс сказал: «Я нахожусь в лагере, который обеспокоен сверхразумом. «Во-первых, машины будут делать за нас много работы и не будут сверхинтеллектуальными. Это должно быть позитивно, если мы справляемся с этим хорошо.

Источник