|
Роботы уничтожат человечество в течение 100 лет
|
|
|
|
Эксперт по искусственному интеллекту Роман Ямпольский выступил с резким предупреждением о том, что развитие искусственного интеллекта может привести к гибели человечества. Специалист по компьютерам, специализирующийся на безопасности ИИ и кибербезопасности в Университете Луисвилля, предсказывает, что вероятность того, что ИИ уничтожит человечество в течение следующих ста лет, составляет 99,9%. Об этом говорится в его недавнем выступлении в подкасте Лекса Фридмана, который вышел в эфир в прошлое воскресенье.
|
|
|
|
В ходе продолжительной двухчасовой беседы он привел доводы в пользу того, что ни одна из запущенных до сих пор систем искусственного интеллекта не была надежной, выразив сомнения в том, что в будущих версиях не будет серьезных сбоев. Он входит в небольшую, но активную группу разработчиков искусственного интеллекта-первопроходцев, которые высказывали подобные опасения во время конкурса искусственного интеллекта президента Дональда Трампа.
|
|
|
|
В прошлом году Ямпольский написал книгу под названием "ИИ: необъяснимый, непредсказуемый, неконтролируемый", которая рекламируется как "широкое введение в основные проблемы, такие как непредсказуемость результатов ИИ или сложность объяснения решений ИИ".
|
|
|
|
Он пояснил: "В этой книге рассматриваются более сложные вопросы владения и контроля, проводится углубленный анализ потенциальных опасностей и непреднамеренных последствий", - сообщает The Express.
|
|
|
|
|
|
|
Он добавил: "Затем книга завершается философскими и экзистенциальными размышлениями, в которых рассматриваются вопросы индивидуальности ИИ, сознания и различия между человеческим интеллектом и искусственным общим интеллектом (AGI)".
|
|
|
|
Специалисты в области технологий отмечают, что первопроходцы в области искусственного интеллекта, включая Ямпольского, являются одними из тех, кто громче всех бьет тревогу по поводу потенциальных катастрофических последствий, которые может вызвать этот технический прогресс.
|
|
|
|
Однако некоторые исследования ставят под сомнение предсказание Ямпольского о конце света, предполагая, что угроза гораздо менее серьезная, чем предполагают его оценки.
|
|
|
|
Исследования, проведенные Оксфордским университетом в Англии и Боннским университетом в Германии, показали, что вероятность того, что искусственный интеллект уничтожит человечество, составляет всего 5%, основываясь на оценках более чем 2700 ученых в области искусственного интеллекта.
|
|
|
|
"Люди пытаются говорить так, как будто вероятность вымирания - это мнение меньшинства, но среди экспертов в области искусственного интеллекта оно распространено", - предупреждает Катя Грейс, один из авторов статьи. "Похоже, разногласия заключаются в том, составляет ли риск 1% или 20%".
|
|
|
|
Ряд ведущих гуру ИИ категорически отвергли заявления о том, что ИИ может спровоцировать апокалипсис, в том числе соучредитель Google Brain Эндрю Нг и пионер ИИ Ян Лекун, причем последний обвинил технических воротил, таких как Сэм Альтман из OpenAI, в том, что у них есть скрытые мотивы, стоящие за их паникой по поводу катастрофических результатов ИИ.
|
|
|
|
Альтман из OpenAI сделал несколько тревожных замечаний о своем секторе. Он предупредил, что искусственный интеллект, скорее всего, уничтожит бесчисленное количество рабочих мест, которые он назвал "ненастоящими", что вызвало бурю негативной реакции.
|
|
|
|
Вторя предупреждениям Альтмана, несколько критиков искусственного интеллекта также забили тревогу, предположив, что эта технология может спровоцировать финансовый крах, вытеснив множество сотрудников во всех отраслях без исключения.
|
|
|
|
Более десяти лет назад, в 2015 году, Альтман сделал мрачный прогноз, заявив: "Искусственный интеллект, скорее всего, приведет к концу света, но в то же время останутся великие компании".
|
|
|
|
Ранее в этом году он также подвергся резкой критике за утверждение, что широкое внедрение искусственного интеллекта потребует "изменений в общественном договоре".
|
|
|
|
Источник
|
