|
Мировые элиты хотят, чтобы ИИ заменил людей
|
|
|
|
Известный ученый—компьютерщик Йошуа Бенгио — пионер в области искусственного интеллекта - предупредил о потенциальных негативных последствиях зарождающейся технологии для общества и призвал к проведению дополнительных исследований для снижения связанных с ней рисков.
|
|
|
|
Бенжио, профессор Монреальского университета и глава Монреальского института обучающих алгоритмов, получил множество наград за свою работу в области глубокого обучения - подмножества искусственного интеллекта, которое пытается имитировать деятельность человеческого мозга, чтобы научиться распознавать сложные закономерности в данных.
|
|
|
|
Но у него есть опасения по поводу этой технологии, и он предупредил, что некоторые люди, обладающие “большой властью”, могут даже захотеть, чтобы человечество было заменено машинами.
|
|
|
|
“Действительно важно представить себя в будущем, где у нас будут машины, которые во многих отношениях будут такими же умными, как мы, и что это будет означать для общества”, - сказал Бенжио корреспонденту CNBC Тане Брайер на всемирном саммите One Young в Монреале, где молодые лидеры решают проблемы, стоящие перед миром сегодня.
|
|
|
|
По его словам, вскоре машины смогут обладать большинством когнитивных способностей людей. Искусственный интеллект (AGI) — это тип технологии искусственного интеллекта, целью которой является достижение уровня человеческого интеллекта или его улучшение.
|
|
|
|
|
|
|
“Интеллект дает власть. Так кто же будет контролировать эту власть?” он сказал. “Наличие систем, которые знают больше, чем большинство людей, может быть опасным в неправильных руках и привести, например, к еще большей нестабильности на геополитическом уровне или терроризму”.
|
|
|
|
По словам Бенджио, ограниченное число организаций и правительств смогут позволить себе создавать мощные машины с искусственным интеллектом, и чем крупнее системы, тем умнее они становятся.
|
|
|
|
“Вы знаете, что создание и обучение этих машин обходится в миллиарды долларов, и очень немногие организации и очень немногие страны смогут это сделать. Это уже имеет место”, - сказал он.
|
|
|
|
“Произойдет концентрация власти: экономической, что может плохо сказаться на рынках; политической, что может плохо сказаться на демократии; и военной, что может плохо сказаться на геополитической стабильности нашей планеты. Таким образом, остается много открытых вопросов, которые нам нужно тщательно изучить и начать смягчать как можно скорее”.
|
|
|
|
Такие результаты возможны в течение десятилетий, сказал он. “Но если пройдет пять лет, мы не будем готовы... потому что у нас нет методов, позволяющих гарантировать, что эти системы не причинят вреда людям или не обернутся против них самих … Мы не знаем, как это сделать”, - добавил он.
|
|
|
|
Есть аргументы в пользу того, что то, как в настоящее время обучаются машины с искусственным интеллектом, “приведет к созданию систем, которые обратятся против людей”, - сказал Бенгио.
|
|
|
|
“Кроме того, есть люди, которые могут захотеть злоупотребить этой властью, и есть люди, которые, возможно, будут рады видеть, как человечество заменят машины. Я имею в виду, что это второстепенно, но у этих людей может быть много власти, и они могут добиться этого, если мы не установим правильные барьеры прямо сейчас”, - сказал он.
|
|
Руководство и регулирование ИИ
|
|
|
|
В июне Bengio опубликовал открытое письмо, озаглавленное “Право предупреждать о передовом искусственном интеллекте”. Оно было подписано нынешними и бывшими сотрудниками Open AI — компании, создавшей вирусного чат-бота с искусственным интеллектом ChatGPT.
|
|
|
|
В письме содержится предупреждение о “серьезных рисках”, связанных с развитием искусственного интеллекта, и призыв к ученым, политикам и общественности дать рекомендации по их устранению. За последние несколько месяцев OpenAI столкнулась с растущими проблемами в области безопасности, а в октябре была распущена команда по обеспечению готовности к ИИ.
|
|
|
|
“Первое, что нужно сделать правительствам, - это ввести регулирование, обязывающее [компании] регистрироваться при создании этих передовых систем, которые похожи на крупнейшие, обучение которых обходится в сотни миллионов долларов”, - сказал Бенгио CNBC. “Правительства должны знать, где они находятся, в чем специфика этих систем”.
|
|
|
|
Поскольку искусственный интеллект развивается так быстро, правительства должны “проявить немного изобретательности” и принять законодательство, способное адаптироваться к технологическим изменениям, - сказал Бенжио.
|
|
|
|
По мнению ученого-компьютерщика, компании, разрабатывающие искусственный интеллект, также должны нести ответственность за свои действия.
|
|
|
|
“Ответственность - это еще один инструмент, который может заставить [компании] вести себя хорошо, потому что... если речь идет об их деньгах, страх быть привлеченными к ответственности подтолкнет их к действиям, направленным на защиту общества. Если они знают, что на них нельзя подать в суд, потому что сейчас это своего рода серая зона, то они не обязательно будут вести себя хорошо”, - сказал он. ”[Компании] конкурируют друг с другом, и, знаете, они думают, что тот, кто первым придет к AGI, будет доминировать. Так что это гонка, и гонка опасная”.
|
|
|
|
По словам Бенджио, процесс принятия законов, направленных на обеспечение безопасности ИИ, будет аналогичен тому, как разрабатывались правила для других технологий, таких как самолеты или автомобили. “Чтобы пользоваться преимуществами ИИ, мы должны регулировать. Мы должны установить ограждения. У нас должен быть демократический контроль за развитием технологии”, - сказал он.
|
|
Дезинформация
|
|
|
|
Распространение дезинформации, особенно в связи с выборами, вызывает все большую обеспокоенность по мере развития искусственного интеллекта. В октябре OpenAI заявила, что пресекла “более 20 операций и мошеннических сетей со всего мира, которые пытались использовать наши модели”. К ним относятся посты в социальных сетях с поддельных аккаунтов, созданных в преддверии выборов в США и Руанде.
|
|
|
|
“Одна из самых серьезных краткосрочных проблем, которая будет расти по мере того, как мы будем продвигаться к более совершенным системам, - это дезинформация, дезинформационное искажение информации, способность ИИ влиять на политику и мнения”, - сказал Бенджио. “По мере продвижения вперед у нас появятся машины, которые смогут генерировать более реалистичные изображения, более реалистично звучащие имитации голосов, более реалистичные видео”, - сказал он.
|
|
|
|
Это влияние может распространиться и на взаимодействие с чат-ботами, сказал Бенжио, ссылаясь на исследование итальянских и швейцарских исследователей, показавшее, что модель OpenAI GPT-4 large language может убедить людей изменить свое мнение лучше, чем человек. “Это было всего лишь научное исследование, но вы можете себе представить, что есть люди, которые читают это и хотят вмешаться в наши демократические процессы”, - сказал он.
|
|
‘Самый сложный вопрос из всех’
|
|
|
|
Бенджио сказал, что “самый сложный вопрос из всех” звучит так: “Если мы создадим сущности, которые будут умнее нас и будут иметь свои собственные цели, что это будет означать для человечества? В опасности ли мы?”
|
|
|
|
“Все это очень сложные и важные вопросы, и у нас нет ответов на все. Нам нужно гораздо больше исследований и мер предосторожности, чтобы снизить потенциальные риски”, - сказал Бенжио.
|
|
|
|
Он призвал людей действовать. “У нас есть свобода воли. Еще не поздно направить эволюцию обществ и человечества в позитивное и благотворное русло”, - сказал он. “Но для этого нам нужно достаточное количество людей, которые понимают как преимущества, так и риски, и нам нужно достаточное количество людей, которые будут работать над решениями. И решения могут быть как технологическими, так и политическими... политика, но нам нужно приложить достаточно усилий в этих направлениях прямо сейчас”, - сказал Бенжио.
|
|
|
|
Источник
|
