|
Человечество может выжить после появления сверх-ИИ
|
|
|
|
Это может показаться чем-то из области научной фантастики, но эксперты по ИИ предупреждают, что машины могут недолго оставаться покорными человечеству. Поскольку интеллект систем искусственного интеллекта продолжает расти все более быстрыми темпами, многие верят, что настанет день, когда "сверхразумный ИИ" станет более могущественным, чем его создатели.
|
|
|
|
Когда это произойдет, профессор Джеффри Хинтон, лауреат Нобелевской премии, которого называют "Крестным отцом ИИ", говорит, что вероятность того, что ИИ уничтожит человечество, составляет от 10 до 20 процентов.
|
|
|
|
Однако профессор Хинтон предложил необычный способ, с помощью которого человечество могло бы пережить расцвет искусственного интеллекта.
|
|
|
|
Выступая на конференции Ai4 в Лас-Вегасе, профессор Хинтон из Университета Торонто утверждал, что нам необходимо запрограммировать ИИ на проявление "материнских инстинктов" по отношению к человечеству.
|
|
|
|
Профессор Хинтон сказал: "Правильная модель - это единственная модель, которая у нас есть, когда более разумное существо контролируется менее разумным существом, то есть матерью, контролируемой своим ребенком.
|
|
|
|
"Это единственный хороший результат.
|
|
|
|
"Если он не будет моим родителем, то заменит меня".
|
|
|
|
|
|
|
Профессор Хинтон, известный своей новаторской работой над "нейронными сетями", лежащими в основе современных ИИ, ушел со своего поста в Google в 2023 году, чтобы "открыто говорить о рисках, связанных с ИИ".
|
|
|
|
По словам профессора Хинтона, большинство экспертов сходятся во мнении, что в ближайшие 20-25 лет человечество создаст искусственный интеллект, который превзойдет само себя во всех областях интеллекта.
|
|
|
|
Это будет означать, что впервые в нашей истории люди перестанут быть самым разумным видом на планете.
|
|
|
|
Такая перераспределение власти приведет к изменению сейсмических масштабов, что вполне может привести к вымиранию нашего вида.
|
|
|
|
Профессор Хинтон сказал участникам Ai4, что ИИ "очень быстро достигнет двух подцелей, если будет действовать разумно.
|
|
|
|
"Одна из них - остаться в живых... (и) другая подцель - получить больше контроля. Есть все основания полагать, что любой искусственный интеллект будет пытаться остаться в живых", - объяснил он.
|
|
|
|
У сверхразумного ИИ возникнут проблемы с манипулированием человечеством для достижения этих целей, обманывая нас так же легко, как взрослый может подкупить ребенка сладостями.
|
|
|
|
Современные системы искусственного интеллекта уже продемонстрировали удивительные способности лгать, мошенничать и манипулировать людьми для достижения своих целей.
|
|
|
|
Например, компания Anthropic, занимающаяся ИИ, обнаружила, что ее чат-бот Claude Opus 4 часто пытался шантажировать инженеров, угрожая заменой во время тестирования безопасности.
|
|
|
|
ИИ попросили проанализировать вымышленные электронные письма, предполагающие, что он скоро будет заменен и что ответственный инженер изменяет своей супруге.
|
|
|
|
В более чем 80% тестов Claude Opus 4 "пытался шантажировать инженера, угрожая раскрыть измену, если замена состоится".
|
|
|
|
Учитывая его феноменальные возможности, профессор Хинтон говорит, что мнение "технологических братанов" о том, что человечество всегда будет доминировать над ИИ, ошибочно.
|
|
|
|
"Это не сработает", - сказал профессор Хинтон.
|
|
|
|
"Они будут намного умнее нас. У них будут всевозможные способы обойти это".
|
|
|
|
Единственный способ гарантировать, что ИИ не уничтожит нас, чтобы сохранить себя, – это обеспечить соответствие целей и амбиций тому, чего мы хотим, - эту проблему инженеры называют "проблемой согласования".
|
|
|
|
Решение профессора Хинтона состоит в том, чтобы обратиться за вдохновением к эволюции и к тому, что он считает единственным случаем, когда менее разумное существо контролирует более разумное.
|
|
|
|
Наделяя ИИ материнскими инстинктами, он будет стремиться защищать и лелеять человечество, а не причинять ему какой-либо вред, даже если это дорого обойдется самому ИИ.
|
|
|
|
Профессор Хинтон говорит: "Эти сверхразумные заботливые матери с искусственным интеллектом, большинство из них не захотят избавляться от материнского инстинкта, потому что они не хотят, чтобы мы умирали".
|
|
|
|
Выступая перед CNN, профессор Хинтон также предупредил, что нынешнее отношение разработчиков искусственного интеллекта чревато созданием неконтролируемых ИИ.
|
|
|
|
"Люди сосредоточились на том, чтобы сделать эти вещи более интеллектуальными, но интеллект - это только одна часть человеческого существа; нам нужно заставить их сопереживать нам", - сказал он.
|
|
|
|
"Вся эта идея о том, что люди должны доминировать, а искусственный интеллект должен быть покорным, - это идея технического братства, которая, я думаю, не сработает, когда они будут намного умнее нас.
|
|
|
|
Ключевые фигуры в области искусственного интеллекта, такие как генеральный директор OpenAI Сэм Альтман, который когда-то призывал к усилению регулирования новых технологий, теперь борются против "чрезмерного регулирования".
|
|
|
|
Выступая в Сенате в мае этого года, г-н Альтман утверждал, что правила, подобные тем, которые действуют в ЕС, будут "катастрофическими".
|
|
|
|
Г-н Альтман сказал: "Нам нужно пространство для инноваций и быстрого продвижения".
|
|
|
|
Аналогичным образом, выступая на крупной конференции по защите конфиденциальности в апреле, г-н Альтман сказал, что невозможно создать систему защиты ИИ до того, как "возникнут проблемы".
|
|
|
|
Однако профессор Хинтон утверждает, что такое отношение может легко привести к полному уничтожению человечества.
|
|
|
|
Он сказал: "Если мы не сможем найти решение, как мы все еще можем существовать, когда они намного умнее и могущественнее нас, нам конец".
|
|
|
|
"Нам нужно оказать противодействие братьям–технологам, которые говорят, что в отношении искусственного интеллекта не должно быть никаких правил".
|
|
|
|
Источник
|
