|
Роботы скоро уничтожат человечество
|
|
|
|
Эксперт по искусственному интеллекту Роман Ямпольский выступил с пугающим предупреждением о том, что появление искусственного интеллекта может привести к вымиранию человечества. Специалист по компьютерным технологиям, занимающийся вопросами безопасности и кибербезопасности в сфере искусственного интеллекта в Университете Луисвилла, в подкасте Лекса Фридмана заявил, что с вероятностью 99,9% искусственный интеллект уничтожит человечество в течение следующего столетия.
|
|
|
|
В ходе продолжительной двухчасовой дискуссии он утверждал, что ни одна из существующих на сегодняшний день систем искусственного интеллекта не является абсолютно надежной, и выражал скептицизм по поводу того, что будущие разработки будут избавлены от катастрофических сбоев. Он принадлежит к небольшому, но известному кругу исследователей в области искусственного интеллекта, которые высказывают подобные опасения на фоне гонки в сфере искусственного интеллекта, объявленной президентом Дональдом Трампом.
|
|
|
|
Ямпольский уже написал книгу «Искусственный интеллект: необъяснимый, непредсказуемый, неконтролируемый», которая, по его словам, представляет собой «широкое введение в основные проблемы, такие как непредсказуемость результатов работы искусственного интеллекта и сложность объяснения его решений».
|
|
|
|
|
|
|
Он пояснил: «В этой книге рассматриваются более сложные вопросы, связанные с правом собственности и контролем, проводится глубокий анализ потенциальных опасностей и непреднамеренных последствий.
|
|
|
|
- Затем книга завершается философскими и экзистенциальными размышлениями, в которых рассматриваются вопросы индивидуальности ИИ, сознания и различия между человеческим интеллектом и искусственным общим интеллектом (AGI)".
|
|
|
|
Эксперты в области технологий говорят, что первопроходцы искусственного интеллекта, в том числе Ямпольский, являются одними из тех, кто больше всего предупреждает о потенциально катастрофических последствиях, которые может вызвать этот технологический прорыв.
|
|
|
|
Тем не менее, некоторые исследования оспаривают апокалиптический прогноз Ямпольского, указывая на значительно меньшую опасность, чем предполагают его прогнозы.
|
|
|
|
Исследования, проведенные Оксфордским университетом в Англии и Боннским университетом в Германии, показали, что вероятность того, что искусственный интеллект уничтожит человечество, составляет всего 5%, основываясь на оценках более 2700 ученых в области искусственного интеллекта.
|
|
|
|
"Люди пытаются говорить так, будто вероятность вымирания - это мнение меньшинства, но среди экспертов в области искусственного интеллекта это распространено", - предупреждает Катя Грейс, один из авторов статьи. "Похоже, разногласия заключаются в том, составляет ли риск 1% или 20%".
|
|
|
|
Некоторые ведущие эксперты в области искусственного интеллекта полностью отвергли заявления о том, что ИИ приведёт к апокалипсису. Среди них сооснователь Google Brain Эндрю Нг и пионер в области искусственного интеллекта Ян Лекун. Последний утверждает, что такие технологические гиганты, как Сэм Альтман из OpenAI, преследуют скрытые цели, нагнетая страх перед катастрофическими последствиями развития ИИ.
|
|
|
|
Сэм Альтман из OpenAI сделал несколько тревожных заявлений о своей отрасли. Он предупредил, что ИИ, вероятно, уничтожит множество рабочих мест, которые, по его словам, не являются «настоящей работой». Это заявление вызвало шквал критики.
|
|
|
|
Вслед за Альтманом тревогу забили и другие противники развития ИИ, заявив, что эта технология может привести к экономическому коллапсу, заменив множество работников во всех без исключения отраслях. Более десяти лет назад, в 2015 году, Альтман выступил с мрачным прогнозом, заявив: «Скорее всего, ИИ приведёт к концу света, но до этого появятся великие компании».
|
|
|
|
В начале этого года он также подвергся резкой критике за предположение, что повсеместное внедрение ИИ потребует «изменения общественного договора».
|
|
|
|
Источник
|
