|
ИИ уничтожит человечество с вероятностью 50%
|
|
|
|
Если вы еще не боитесь искусственного интеллекта (ИИ), эксперт считает, что существует 50-процентная вероятность того, что он уничтожит человечество. Макс Тегмарк, физик и эксперт по искусственному интеллекту из Массачусетского технологического института, дал глубоко тревожный прогноз о нашем будущем на этой планете. По словам ученого, история показала, что самые умные виды Земли — люди — несут ответственность за гибель «меньших» видов, таких как додо. Поэтому, предупреждает он, если и когда ИИ станет умнее людей, нас может легко постичь та же участь. Более того, мы не узнаем, когда произойдет наша гибель от рук ИИ, потому что у менее разумных видов нет возможности это узнать. Профессор Тегмарк сделал мрачные замечания во время интервью на его родном шведском языке национальной телекомпании SVT. «Примерно половина всех других видов на земле уже уничтожена нами, людьми», — сказал он. «Поскольку мы были умнее, у них не было контроля. «То, о чем мы предупреждаем сейчас, заключается в том, что если мы, люди, потеряем контроль над нашим обществом в пользу машин, которые намного умнее нас, то для нас все может пойти так же плохо».
|
|
|
Профессор Тегмарк является одним из тех, кто подписал заявление, состоящее из одного предложения, опубликованное на этой неделе, в котором содержится предупреждение о риске исчезновения из-за ИИ. В заявлении говорится: «Снижение риска исчезновения из-за ИИ должно быть глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война». Некоторые ведущие мировые ученые считают, что в ближайшем будущем ИИ можно будет использовать для создания автономного оружия или роботов, способных убивать — с вмешательством человека или без него. Но даже, казалось бы, безобидное программное обеспечение ИИ может принимать решения, которые могут быть фатальными для человека, если технология не запрограммирована с достаточной тщательностью. Еще в 2018 году профессор Тегмарк предупредил, что однажды люди могут стать рабами созданных ими интеллектуальных машин. В то время он даже утверждал, что некоторые из его коллег могут приветствовать вымирание вида из-за ИИ, считая их нашими естественными потомками.
|
|
|
|
Другая точка зрения состоит в том, чтобы держать форму «сверхразума» под человеческим контролем «как порабощенную собаку». «Но вы можете беспокоиться о том, что, возможно, мы, люди, просто недостаточно умны, чтобы справиться с такой большой мощностью», — сказал он во время выступления на TED. «Помимо любых моральных сомнений, которые могут возникнуть у вас по поводу порабощения высших умов, вы должны больше беспокоиться о том, что, возможно, сверхразум может перехитрить нас. «Они могут прорваться и захватить власть». Генеральный директор Tesla Илон Маск — одно из самых известных имен и лиц в области разработки технологий, и он невероятно откровенен, когда речь заходит о возможностях ИИ. В марте Маск и 1000 других технологических лидеров призвали приостановить «опасную гонку» по разработке ИИ, который, как они опасаются, представляет «серьезный риск для общества и человечества» и может иметь «катастрофические» последствия. Маск уже давно высказывает опасения, что технология станет настолько продвинутой, что больше не будет требовать вмешательства человека или даже прислушиваться к нему. Предприниматель южноафриканского происхождения уже назвал ИИ «гораздо более опасным, чем ядерное оружие» и «более рискованным, чем Северная Корея».
|
|
|
|
Источник
|
