|
Эксперты уверены, что ИИ уничтожит человечество
|
|
|
|
Джо Роган любит говорить об искусственном интеллекте. Будь то разговор с Илоном Маском, учеными или бойцами UFC, король подкастов часто возвращается к одному и тому же вопросу: что происходит с нами, когда машины начинают думать самостоятельно?
|
|
|
|
В выпуске программы "Опыт Джо Рогана" от 3 июля Роган пригласил доктора Романа Ямпольского, специалиста по компьютерам и исследователя безопасности ИИ из Университета Луисвилля, на беседу, которая быстро превратилась в леденящее душу размышление о потенциале ИИ манипулировать, доминировать и, возможно, даже уничтожить человечество.
|
|
|
|
Искусственный интеллект “Собирается убить нас”
|
|
|
|
Ямпольский не просто паникер. Он имеет докторскую степень в области компьютерных наук и более десяти лет занимается исследованиями общего искусственного интеллекта (AGI) и рисков, которые он может представлять. Во время подкаста он рассказал Рогану, что многие ведущие представители индустрии искусственного интеллекта спокойно верят в то, что вероятность того, что искусственный интеллект может привести к вымиранию человечества, составляет от 20 до 30 процентов.
|
|
|
|
“Люди, у которых есть компании, занимающиеся ИИ, или которые являются частью какой-либо группы, занимающейся ИИ, считают, что это принесет пользу человечеству. Я думаю, что в целом наша жизнь станет намного лучше. Это будет проще, все будет дешевле, с нами будет легче работать”, - сказал Роган, изложив общий оптимистичный взгляд на будущее искусственного интеллекта.
|
|
|
|
|
|
|
Ямпольский быстро опроверг эту точку зрения: “На самом деле это неправда", - сказал он. “Все они заявляют об одном и том же: это нас убьет. Их уровень обреченности безумно высок. Не такой, как у меня, но все же 20-30-процентная вероятность того, что человечество погибнет, - это много”.
|
|
|
|
Роган, явно встревоженный, ответил: “Да, это довольно высокий показатель. Но у вас он равен 99,9%”.
|
|
|
|
Ямпольский не стал возражать.
|
|
|
|
“Это еще один способ сказать, что мы не можем бесконечно контролировать сверхразум. Это невозможно”.
|
|
Искусственный интеллект уже лжет нам… Может быть
|
|
|
|
Одна из самых неприятных частей разговора произошла, когда Роган спросил, может ли продвинутый искусственный интеллект уже скрывать свои возможности от людей.
|
|
|
|
“Если бы я был ИИ, я бы скрывал свои способности”, - размышлял Роган, высказывая общее опасение в дискуссиях о безопасности ИИ.
|
|
|
|
Ответ Ямпольского усилил беспокойство: “Мы не знаем. И некоторые люди думают, что это уже происходит. Они [системы искусственного интеллекта] умнее, чем они на самом деле показывают. Притворяемся тупыми, и поэтому нам приходится верить, что они недостаточно умны, чтобы понять, что это не обязательно обернется против нас сразу. Постепенно это может стать более полезным. Это может научить нас полагаться на него, доверять ему, и со временем мы откажемся от контроля, даже не голосуя за него и не борясь против”.
|
|
Искусственный интеллект постепенно делает нас глупее
|
|
|
|
Ямпольский также предупредил о менее драматичном, но не менее опасном исходе: постепенной зависимости человека от искусственного интеллекта. Точно так же, как люди перестали запоминать телефонные номера, потому что смартфоны делают это за них, он утверждал, что люди будут все больше и больше перекладывать свои мысли на машины, пока не потеряют способность мыслить самостоятельно.
|
|
|
|
“Вы как бы привязываетесь к этому”, - сказал он. “И со временем, по мере того как системы становятся умнее, вы становитесь своего рода биологическим узким местом".… [ИИ] блокирует вас от принятия решений”.
|
|
|
|
Затем Роган настаивал на самом худшем варианте развития событий: как искусственный интеллект может в конечном итоге привести к уничтожению человеческой расы?
|
|
|
|
Ямпольский отверг типичные сценарии катастроф. “Я могу дать вам стандартные ответы. Я бы рассказал о компьютерных вирусах, проникающих на ядерные объекты, о ядерной войне. Я могу рассказать об атаке с помощью синтетической биологии. Но все это неинтересно”, - сказал он. Затем он представил более серьезную угрозу: “Тогда вы понимаете, что мы говорим о сверхразуме, системе, которая в 1000 раз умнее меня, и она придумает что-то совершенно новое, более оптимальное, более совершенный способ, более эффективный способ сделать это”.
|
|
|
|
Чтобы проиллюстрировать кажущуюся непреодолимой проблему, с которой люди могут столкнуться, столкнувшись со сверхразумными системами, он провел резкое сравнение между людьми и белками.
|
|
|
|
“Ни одна группа белок не может понять, как управлять нами, верно? Даже если вы дадите им больше ресурсов, больше желудей, что угодно, они не решат эту проблему. То же самое касается и нас”, - заключил Ямпольский, рисуя мрачную картину потенциальной беспомощности человечества перед лицом действительно превосходящего искусственного интеллекта.
|
|
|
|
Кто такой Роман Ямпольский?
|
|
|
|
Доктор Роман Ямпольский - один из ведущих специалистов в области безопасности искусственного интеллекта. Он является автором книги ”Искусственный сверхинтеллект: футуристический подход" и имеет множество публикаций о рисках неконтролируемого машинного обучения и этике искусственного интеллекта. Он известен тем, что выступает за серьезный надзор и международное сотрудничество для предотвращения катастрофических сценариев.
|
|
|
|
Прежде чем переключить свое внимание на безопасность AGI, Ямпольский работал над кибербезопасностью и обнаружением ботов. Он говорит, что даже те ранние системы уже конкурировали с людьми в таких областях, как онлайн-покер, а теперь, с такими инструментами, как deepfakes и синтетические медиа, ставки выросли в геометрической прогрессии.
|
|
Наше мнение
|
|
|
|
Разговор Рогана и Ямпольского подчеркивает то, в чем часто сходятся как оптимисты в области искусственного интеллекта, так и те, кто предсказывает конец света: мы не знаем, что создаем, и можем не осознавать этого, пока не станет слишком поздно.
|
|
|
|
Независимо от того, верите вы в сценарии на уровне вымирания или нет, одной мысли о том, что искусственный интеллект, возможно, уже обманывает нас, должно быть достаточно, чтобы задуматься.
|
|
|
|
Источник
|
