Предрекли появление безжалостного ИИ-диктатора
|
Представьте самого гнусного, самого злобного, циничного и коварного мирового лидера. А теперь представьте, что эта личность – не человек, а сеть, состоящая из миллионов компьютеров по всему миру. И этот цифровой диктатор имеет мгновенный доступ даже к самой незначительной задокументированной информации о каждом человеке, живущем или когда-либо жившем на Земле. А еще он может производить миллионы вычислений за доли секунды, контролировать мировую экономику, все компьютеризированные вооруженные системы и, самое страшное, обладает бессмертием в том или ином виде. |
Появление такого невероятного цифрового диктатора, по мнению основателя Tesla и SpaceX Илона Маска, является одним из самых темнейших возможных сценариев для будущего человечества, если разработки искусственного интеллекта продолжатся без серьезного контроля со стороны регулирующих органов. |
«Вполне очевидно, что мы быстро движемся к появлению цифрового сверхинтеллекта, который превзойдет любого человека», — отметил Илон Маск в новом документальном фильме «Do You Trust This Computer?» («Вы верите этому компьютеру?») режиссера Криса Пейна, ранее также снявшего документалку «Who Killed The Electric Car?» («Кто убил электрокар?»). |
«Если одна компания или небольшая группа людей сможет создать богоподобный цифровой суперинтеллект – она захватит мир». |
Человеческая история содержит немало примеров личностей, пытавшихся захватить весь мир в свое время. Александр Македонский, Карл Великий, Наполеон, Гитлер — лишь некоторые имена из этого списка. Однако, по мнению Маска, авторитарный искусственный интеллект будет обладать одним ужасным преимуществом над всеми этими людьми. |
«Всех, даже самых злобных и отвратительных диктаторов объединяло одно – они были смертными. Однако для ИИ вообще не будет существовать такого понятия, как смерть. Он сможет существовать вечно. От такого зла людям некуда будет спрятаться», — заявил Маск. |
По мнению того же Маска, этому гипотетическому ИИ-диктатору даже будет не нужно быть по-настоящему злым, чтобы представлять опасность для всего человечества. |
«Если у ИИ будет определенная задача и так сложится, что человечество будет стоять на пути решения этой задачи, то ИИ просто его уничтожит, как само собой разумеющееся. Без каких-либо колебаний и моральных терзаний. Это как строительство дороги, на пути которой по случайности оказался муравейник. Мы же не ненавидим муравьев, мы просто строим дорогу. Поэтому прощай муравейник», — добавил Маск. |
Источник |