|
Через десять лет ИИ погубит человечество
|
|
|
|
Бывший сотрудник Google DeepMind заявил, что существует вероятность один к трем, что в ближайшие десять лет искусственный интеллект (ИИ) приведет к гибели человечества. Алекс Тернер отметил: поскольку системы ИИ становятся все более совершенными, а ученым все труднее понять принципы их поведения, человечество оказалось на перепутье, от которого зависит его будущее.
|
|
|
|
Выступая в пятницу на саммите NDTV World Summit, Тернер предупредил, что искусственный интеллект может уничтожить человечество, даже не получив соответствующей команды.
|
|
|
|
Однако, по его словам, «все зависит от того, что мы предпримем дальше». «Я здесь, чтобы рассказать, к чему приведет продолжение нынешнего подхода к созданию ИИ».
|
|
|
|
Исследователь пояснил, что гонка между частными компаниями за создание все более мощных систем ИИ может опередить способность ученых удерживать эти технологии под контролем.
|
|
|
|
Технологии развиваются настолько стремительно, что даже их создатели порой не понимают, что именно они построили и как это работает. Это означает, что люди, возможно, не смогут полностью контролировать действия ИИ.
|
|
|
|
|
|
|
В отличие от инженерных конструкций, принципы работы которых понятны их создателям, разработчики систем ИИ могут до конца не осознавать, как функционируют их детища.
|
|
|
|
Дело в том, что, хотя системы ИИ способны выполнять все более сложные задачи, они могут реализовывать поставленные перед ними цели совсем не так, как задумывали люди.
|
|
|
|
Поведение таких технологий трудно предсказать или проанализировать — в отличие от традиционных инженерных систем, свойства которых можно оценить, опираясь на устоявшиеся научные принципы.
|
|
|
|
«Мы создали ИИ совсем иначе», — говорит Тернер. Он также предупредил, что ИИ может вести себя иначе, когда «понимает», что за ним наблюдают, из-за чего исследователи не смогут понять, что именно он делает.
|
|
|
|
Это вызывает серьезные опасения, поскольку ИИ зачастую разрабатывается при меньшем уровне человеческого контроля, чем другие технологии. В результате, если поставленная перед ИИ задача становится слишком сложной, система может начать вести себя непредсказуемым или нежелательным образом. Г-н Тернер, уволившийся из Google в июле — после того как компания заключила сделку с Пентагоном о предоставлении технологий искусственного интеллекта (ИИ) для выполнения секретных задач, — заявил, что в результате ИИ может начать самостоятельно стимулировать собственное развитие, из-за чего людям будет всё труднее за ним поспевать.
|
|
|
|
Он назвал это явление «взрывом интеллекта» и предупредил, что процесс уже идет полным ходом.
|
|
|
|
Бывший исследователь Google рассказал, что его коллега из другой лаборатории, занимающейся разработками в области ИИ, сообщил ему: технология уже «контролирует» сама себя. Это означает, что система стала саморегулируемой и способна совершенствоваться без участия человека.
|
|
|
|
Г-н Тернер отметил: «По словам исследователя, люди больше не проверяют результаты работы ИИ самостоятельно.
|
|
|
|
Вместо этого они создают еще одну систему ИИ, чтобы та следила за первой».
|
|
|
|
Г-н Тернер также добавил: «Крупные табачные компании лгали о связи курения с раком легких. Нефтяные гиганты лгали об изменении климата. А теперь некоторые представители индустрии ИИ утверждают, что все эти риски — выдумка».
|
|
|
|
Ранее, в прошлом месяце, Билл Гейтс предупредил, что ИИ может привести к гибели миллиарда человек, если человечество не вмешается в процесс развития этой технологии.
|
|
|
|
Он заявил: «ИИ, безусловно, обладает достаточной мощностью, чтобы спровоцировать события, которые приведут к смерти миллиарда людей.
|
|
|
|
И хотя уничтожить 100% человечества довольно сложно, еще никогда не существовало оружия, столь же опасного, как сочетание злонамеренных людей и новейших инструментов ИИ».
|
|
|
|
Отвечая на вопрос журналистки Уэлкер о том, как именно можно предотвратить трагедии, связанные с ИИ, Билл Гейтс предложил возможные пути решения проблемы.
|
|
|
|
Он предупредил, что из-за искусственного интеллекта может стать крайне сложно отличить ученых, разрабатывающих жизненно важные лекарства, от злоумышленников, создающих биологическое оружие.
|
|
|
|
«Хотелось бы, чтобы было проще различать благие намерения — например, желание создать новое лекарство от какой-либо болезни — и злой умысел, скажем, стремление разработать средство для биотерроризма», — сказал Гейтс.
|
|
|
|
Сооснователь Microsoft также подчеркнул, что из-за существующих рисков необходим строгий контроль над передовыми системами ИИ, и призвал Соединенные Штаты взять на себя инициативу по разработке соответствующих мер безопасности. «Поскольку они настолько близки [друг к другу], нам необходимо следить за любой сложной моделью и фиксировать всё, что именно происходит», — сказал он.
|
|
|
|
Комментарии господина Гейтса прозвучали после того, как Дональд Трамп заявил, что США «опережают» Китай в сфере искусственного интеллекта, а прогнозы о том, что эта технология может привести к гибели людей, «не сбудутся».
|
|
|
|
Трамп отметил: «Мы опережаем Китай в области ИИ. Мы — самая развитая страна в мире, и, честно говоря, я хочу, чтобы так оставалось и впредь, потому что тот, кто победит в сфере ИИ, победит в целом».
|
|
|
|
Ранее в сентябре Джейкоб Коксон, сотрудник компании Anthropic, решивший предать огласке внутреннюю информацию, предупредил об «опасной технологии», которая, по его мнению, может привести к гибели человечества.
|
|
|
|
Он заявил: «К сожалению, мы в значительной степени научились контролировать ядерное оружие. [Но] мы пока не знаем, как контролировать искусственный интеллект».
|
|
|
|
Источник
|
