|
Сверхразумные системы приведут к вымиранию человечества
|
|
|
|
Человек, которого называют «крестным отцом искусственного интеллекта», выступил с предупреждением о мощных системах искусственного интеллекта. Доктор Джеффри Хинтон — британско-канадский ученый в области компьютерных наук, известный своей работой над искусственными нейронными сетями.
|
|
|
|
Несмотря на свой опыт, доктор Хинтон предупреждает, что искусственный интеллект может «привести к вымиранию человечества», если станет «сверхразумным».
|
|
|
|
Сверхразум — это состояние, при котором искусственная система становится более мощной, чем любой отдельно взятый человек, компания или даже государство.
|
|
|
|
«Было бы очень глупо развивать сверхразум сейчас, когда нет научного консенсуса в отношении того, что его можно развивать безопасно и контролируемо, — сказал доктор Хинтон.
|
|
|
|
— Потеря контроля над искусственным интеллектом, который умнее нас, может привести к катастрофическим последствиям и даже к вымиранию человечества».
|
|
|
|
Высказывания доктора Хинтона прозвучали в поддержку законопроекта, разработанного организацией ControlAI и предложенного членом парламента от Лейбористской партии Алексом Собелем.
|
|
|
|
|
|
|
Законопроект о безопасности искусственного сверхразума будет представлен в парламенте завтра. Он предусматривает запрет на разработку сверхразумного искусственного интеллекта в Великобритании.
|
|
|
|
По данным ControlAI, более 135 парламентариев Великобритании, представляющих разные партии, уже поддерживают эту кампанию.
|
|
|
|
«Лауреаты Нобелевской премии, учёные в области искусственного интеллекта и руководители ведущих компаний в сфере ИИ заявили, что снижение риска вымирания человечества из-за развития ИИ должно стать глобальным приоритетом», — говорится в заявлении ControlAI о кампании.
|
|
|
|
«Специализированные системы искусственного интеллекта, например те, что используются в науке и медицине, способствуют экономическому росту, инновациям и развитию государственных услуг. Системы искусственного интеллекта с суперинтеллектом поставят под угрозу национальную и глобальную безопасность.
|
|
|
|
Великобритания может обеспечить преимущества и снизить риски, связанные с развитием ИИ, выполнив своё обещание ввести обязательное регулирование в отношении самых мощных систем искусственного интеллекта».
|
|
|
|
Ключевые фигуры в сфере ИИ, такие как генеральный директор OpenAI Сэм Альтман, который когда-то призывал к усилению регулирования в этой развивающейся области, теперь выступают против «чрезмерного регулирования».
|
|
|
|
Выступая в Сенате в мае прошлого года, Альтман заявил, что регулирование, подобное тому, что действует в ЕС, будет иметь «катастрофические последствия».
|
|
|
|
Альтман сказал: «Нам нужно пространство для инноваций и возможность действовать быстро».
|
|
|
|
Аналогичным образом, выступая на крупной конференции по вопросам конфиденциальности в прошлом месяце, Альтман заявил, что невозможно обеспечить защиту от рисков, связанных с ИИ, до того, как «возникнут проблемы».
|
|
|
|
Однако доктор Хинтон утверждает, что такая позиция может легко привести к полному уничтожению человечества.
|
|
|
|
В прошлом году он сказал: «Если мы не придумаем, как остаться в живых, когда они станут намного умнее и сильнее нас, нам конец».
|
|
|
|
«Нам нужно противостоять технократам, которые заявляют, что регулирование в сфере ИИ не нужно».
|
|
|
|
Источник
|
