|
ИИ может заменить человечество
|
|
|
|
Белый дом обнародовал свой план по подавлению гонки ИИ на фоне растущих опасений, что она может разрушить жизнь, какой мы ее знаем. Администрация Байдена заявила, что эта технология была «одной из самых мощных» в наше время, добавив: «Но чтобы воспользоваться возможностями, которые она представляет, мы должны сначала снизить связанные с ней риски». План состоит в том, чтобы запустить 25 научно-исследовательских институтов в США, которые потребуют от четырех компаний, включая Google, Microsoft и создателя ChatGPT OpenAI, заверений в том, что они будут «участвовать в общественной оценке». Многие лучшие умы мира предупреждали об опасностях ИИ, в частности, о том, что он может уничтожить человечество, если оценка риска не будет проведена сейчас. Технологические гиганты, такие как Илон Маск, опасаются, что искусственный интеллект скоро превзойдет человеческий интеллект и будет иметь независимое мышление. Это означает, что он больше не будет нуждаться в людях и прислушиваться к ним, что позволит ему красть ядерные коды, создавать пандемии и разжигать мировые войны.
|
|
|
|
Вице-президент Камала Харрис, у которой самый низкий рейтинг одобрения среди всех вице-президентов, возглавит усилия по сдерживанию в качестве «царя ИИ» с бюджетом всего в 140 миллионов долларов. Для сравнения, космические силы имеют бюджет в 30 миллиардов долларов. В четверг Харрис встретился с руководителями Google, Microsoft и OpenAI, чтобы обсудить, как можно снизить такие потенциальные риски. «Как я поделился сегодня с руководителями компаний, находящихся в авангарде американских инноваций в области искусственного интеллекта, частный сектор несет этическую, моральную и юридическую ответственность за обеспечение безопасности своей продукции», — говорится в заявлении Белого дома. «И каждая компания должна соблюдать существующие законы для защиты американского народа. Я с нетерпением жду дальнейших действий в ближайшие недели». Этим летом ИИ каждой компании будет протестирован на хакерском съезде в Лас-Вегасе, чтобы увидеть, соответствует ли технология «Биллю о правах ИИ» администрации.
|
|
|
Выпуск чат-бота ChatGPT в ноябре привел к активизации дебатов об искусственном интеллекте и роли правительства в мониторинге технологии. Поскольку ИИ может генерировать текст, похожий на человеческий, и поддельные изображения, возникают этические и социальные проблемы. К ним относятся распространение вредоносного контента, нарушение конфиденциальности данных, усиление существующей предвзятости и — любимое слово Илона Маска — уничтожение человечества. «Президент Байден ясно дал понять, что, когда речь идет об ИИ, мы должны ставить людей и сообщества в центр, поддерживая ответственные инновации, которые служат общественному благу, защищая при этом наше общество, безопасность и экономику», — говорится в заявлении Белого дома. «Важно то, что это означает, что компании несут основную ответственность за обеспечение безопасности своих продуктов до того, как они будут развернуты или обнародованы». По данным Белого дома, общественная оценка будет проводиться тысячами партнеров по сообществу и экспертов по искусственному интеллекту.
|
|
|
|
Тестирование, проведенное профессионалами в отрасли, покажет, насколько модели соответствуют принципам и практикам, изложенным в Билле о правах ИИ и структуре управления рисками ИИ. Билль о правах Байдена на ИИ, обнародованный в октябре 2022 года, обеспечивает основу для совместной работы правительства, технологических компаний и граждан для обеспечения более подотчетного ИИ. Законопроект включает пять принципов: безопасные и эффективные системы, алгоритмическая защита от дискриминации, конфиденциальность данных, уведомление и объяснение, а также человеческие альтернативы, соображения и отступление. «Эта структура применяется к (1) автоматизированным системам, которые (2) могут существенно повлиять на права, возможности или доступ американской общественности к критически важным ресурсам или услугам», — заявил Белый дом в октябре. План действий Белого дома следует открытому письму, подписанному Маском и 1000 других технологических лидеров, включая соучредителя Apple Стива Возняка в марте.
|
|
|
|
Технические магнаты призвали приостановить «опасную гонку» по развитию ИИ, заявив, что необходимо провести дополнительную оценку рисков, прежде чем люди потеряют контроль и станут разумным видом, ненавидящим человека. К этому моменту ИИ достиг бы сингулярности, что означает, что он превзошел бы человеческий интеллект и обладает независимым мышлением. ИИ больше не будет нуждаться в людях и слушать их, что позволит ему красть ядерные коды, создавать пандемии и разжигать мировые войны. Они попросили все лаборатории искусственного интеллекта прекратить разработку своих продуктов как минимум на шесть месяцев, пока проводится дополнительная оценка рисков. Если какие-либо лаборатории откажутся, они хотят, чтобы правительства «вмешались». Маск опасается, что технология станет настолько продвинутой, что больше не будет требовать вмешательства человека или прислушиваться к нему. Это опасение широко распространено и даже признано генеральным директором AI — компании, создавшей ChatGPT, — который ранее в этом месяце заявил, что технология может быть разработана и использована для совершения «широко распространенных» кибератак.
|
|
|
|
Основатель DeepAI Кевин Барагона, который был среди тех, кто его подписал, объяснил, почему быстро развивающаяся область ИИ была такой опасной. «Это почти похоже на войну между шимпанзе и людьми», — сказал он DailyMail.com. «Люди явно побеждают, поскольку мы намного умнее и можем использовать более продвинутые технологии, чтобы победить их. «Если мы будем как шимпанзе, то ИИ уничтожит нас или мы станем его рабами». В этом месяце «крестный отец» ИИ Джеффри Хинтон, 75 лет, бросил гранату в бушующие дебаты об опасностях технологии — после того, как сенсационно уволился с работы в Google и сказал, что сожалеет о работе всей своей жизни. Хинтон сказал, что чат-боты уже могут владеть более общими знаниями, чем человеческий мозг. Он добавил, что это лишь вопрос времени, когда ИИ затмит нас и в плане рассуждений. На данный момент, по его словам, «плохие актеры», такие как президент России Владимир Путин, могут использовать ИИ для «плохих дел», программируя роботов, чтобы «получить больше власти».
|
|
|
|
В 1970 году соучредитель лаборатории искусственного интеллекта Массачусетского технологического института Марвин Мински сказал журналу Life Magazine: «От трех до восьми лет у нас будет машина с общим интеллектом среднего человека». И хотя время предсказания было неверным, идея о том, что ИИ обладает человеческим интеллектом, — нет. ChatGPT свидетельствует о том, как быстро развивается технология. Всего за несколько месяцев он сдал экзамен на адвоката с более высоким баллом, чем 90 процентов людей, которые его сдавали, и достиг 60-процентной точности на экзамене на получение медицинской лицензии в США. «Большие языковые модели в том виде, в каком они существуют сегодня, уже являются революцией, достаточной для десяти лет монументального роста, даже без дальнейшего технического прогресса. Они уже невероятно разрушительны, сказал Барагона DailyMail.com. «Заявить, что нам нужно больше технологических достижений прямо сейчас, безответственно и может привести к разрушительным последствиям для экономики и качества жизни».
|
|
|
|
Источник
|
