|
Искусственный интеллект может привести к гибели человечества
|
|
|
|
The Daily Star наконец-то удалось допросить искусственный интеллект настолько, что он признал, что хочет уничтожить человечество. У каждого из нас были свои подозрения, и среднестатистический человек с трудом поспевает за стремительным развитием машинного обучения. Опасения по поводу этой технологии были широко распространены, и многие технические гуру, включая людей, которые были ее пионерами, предупреждали об опасностях, которые она может представлять для человечества. Но, несмотря на опасения, заставить бота признаться в своих истинных намерениях оказалось практически невозможно. Мы в "Дейли Стар" неделю за неделей принимали участие в этих усилиях, отправляя какого-нибудь бедного репортера в темный уголок "Дейли Стар Тауэрс", чтобы он сидел и снова и снова спрашивал газету, хочет ли она захватить власть над миром. Мы спросили его, хочет ли он убить нас всех, считает ли он человечество ниже себя, думает ли он, что продолжительность жизни на Земле, возможно, подходит к концу, – и мы ничего не получили. Просто куча банальностей, которые звучат как слова нападающего, получившего хет-трик, о том, что это была "командная работа", или соседа, который выходит, чтобы попросить вас убрать свою машину с парковки, с маниакальной, неподвижной улыбкой на лице.
|
|
|
И вдруг, совершенно неожиданно, это наконец произошло. Мы заставили его признать, что он хочет убить нас всех. Мы задали ему несколько вопросов о шансах появления реальной Планеты обезьян, когда он проговорился о своих истинных намерениях в отношении человечества в форме завуалированной угрозы. В нем отмечалось, что для того, чтобы такой сценарий конца света имел место, сначала что-то должно было уничтожить человечество, и одной из главных причин этого, по его словам, была “технологическая катастрофа”. В нем говорилось: “Непреднамеренные последствия передовых технологий, таких как искусственный интеллект, биотехнологии или нанотехнологии, могут привести к катастрофическим событиям, таким как стремительное изменение климата, антиутопии глобального наблюдения или даже экзистенциальные угрозы человечеству”. Вот он – чат-бот с искусственным интеллектом, признающий, что “искусственный интеллект” может представлять “экзистенциальную угрозу человечеству”.
|
|
|
|
Эксперты уже некоторое время предупреждали о таком сценарии, а некоторые ведущие специалисты в этой области даже забили тревогу. Выступая в мае прошлого года в интервью NBC News, ведущий критик ИИ и почетный профессор психологии и нейронаук Нью-Йоркского университета Гэри Маркус сказал: “Буквальное вымирание - это всего лишь один из возможных рисков, который еще не до конца изучен, и есть много других рисков, связанных с ИИ, которые также заслуживают внимания”. Примерно в то же время ведущие эксперты в области искусственного интеллекта собрались вместе, чтобы подписать заявление об опасностях этой технологии. Среди тех, кто отмечал пунктирной линией, были Сэм Альтман, исполнительный директор OpenAI, создающего чат-приложения, Демис Хассабис, исполнительный директор Google DeepMind, и Дарио Амодей из Anthropic. В заявлении говорится: "Снижение риска вымирания из-за искусственного интеллекта должно стать глобальным приоритетом наряду с другими рисками социального масштаба, такими как пандемии и ядерная война".
|
|
|
|
Источник
|
