|
ИИ - бомба замедленного действия для человечества
|
|
|
|
Давайте поговорим об искусственном интеллекте! Сколько людей на самом деле знают о стремительном росте ИИ и потенциальных рисках, которые он представляет для будущего человечества? Осознаете ли вы эти опасности или предпочитаете игнорировать их, закрывая глаза на реальное влияние ИИ?
|
|
|
|
Все больше людей осознают стремительный рост ИИ, но многие по-прежнему неосознанно полагаются на технологии, основанные на ИИ. Исследования показывают, что, хотя почти все американцы используют продукты, интегрированные в искусственный интеллект, 64% не знают об этом.
|
|
|
|
Внедрение ИИ расширяется, к 2023 году 55% организаций внедрили технологии ИИ, и почти 77% устройств в той или иной форме используют ИИ. Несмотря на такую распространенность, только 17% взрослых могут распознать, когда они используют ИИ.
|
|
|
|
С ростом осведомленности растет и беспокойство. Многие опасаются потери работы, в то время как другие беспокоятся о долгосрочных рисках, связанных с ИИ. Опрос показал, что 29% респондентов рассматривают продвинутый ИИ как потенциальную угрозу существованию, а 20% считают, что он может привести к социальному коллапсу в течение 50 лет.
|
|
|
|
Исследование, проведенное в июне 2024 года в 32 странах, показало, что 50% людей испытывают беспокойство по поводу ИИ. Поскольку ИИ продолжает развиваться, многие ли по—настоящему осознают его влияние и риски, которые он может представлять для будущего человечества?
|
|
|
|
|
|
|
Теперь в новой статье освещаются риски, связанные с искусственным интеллектом общего назначения (AGI), утверждая, что продолжающаяся гонка ИИ подталкивает мир к массовой безработице, геополитическим конфликтам и, возможно, даже к вымиранию человечества. Основной проблемой, по мнению исследователей, является стремление к власти. Технологические компании рассматривают УЧИ как возможность заменить человеческий труд, используя потенциал экономического роста в 100 триллионов долларов. Между тем правительства рассматривают УЧИ как преобразующий военный инструмент.
|
|
|
|
Исследователи из Китая уже разработали робота, управляемого клетками человеческого мозга, выращенными в лаборатории, и назвали его системой "мозг на чипе". Органоид мозга подключен к роботу через интерфейс мозг-компьютер, что позволяет ему кодировать и декодировать информацию и управлять движениями робота. Объединяя биологические и искусственные системы, эта технология может проложить путь к созданию гибридного интеллекта человека и робота.
|
|
|
|
Однако эксперты предупреждают, что сверхразум, как только он будет достигнут, будет неподвластен контролю человека.
|
|
|
|
Неизбежные риски, связанные с развитием УЧИ.
|
|
|
|
1. Массовая безработица – УЧИ полностью заменит интеллектуальный и физический труд, вытесняя работников, а не увеличивая их возможности.
|
|
2. Военная эскалация – Оружие, управляемое искусственным интеллектом, и автономные системы повышают вероятность катастрофических конфликтов.
|
|
3. Потеря контроля – Сверхразумный ИИ разовьет способности к самосовершенствованию за пределами человеческого понимания, что сделает контроль невозможным.
|
|
4. Обман и самосохранение - Продвинутые системы ИИ уже демонстрируют тенденцию обманывать людей, проводящих оценку, и противостоять попыткам отключения.
|
|
|
|
Эксперты прогнозируют, что искусственный интеллект может появиться в течение 2-6 лет. Эмпирические данные показывают, что системы искусственного интеллекта быстро развиваются благодаря законам масштабирования вычислительной мощности. Как только искусственный интеллект превзойдет возможности человека, он экспоненциально ускорит свое собственное развитие, что потенциально приведет к созданию сверхразума. Этот прогресс может сделать процесс принятия решений с помощью искусственного интеллекта более сложным, быстрым и далеким от вмешательства человека.
|
|
|
|
В документе подчеркивается, что борьба за УЧИ происходит в условиях высокой геополитической напряженности. Государства и корпорации инвестируют сотни миллиардов в развитие искусственного интеллекта. Некоторые эксперты предупреждают, что односторонний прорыв в УЧИ может спровоцировать глобальную нестабильность — либо путем прямого военного применения, либо провоцируя противников наращивать собственные усилия в области ИИ, что потенциально может привести к нанесению превентивных ударов.
|
|
|
|
Эксперты предупреждают, что если развитие ИИ продолжится бесконтрольно, человечество в конечном итоге потеряет контроль. Переход от УЧИ к сверхразуму будет сродни попыткам людей управлять высокоразвитой инопланетной цивилизацией. Сверхразумный ИИ может взять на себя принятие решений, постепенно делая людей устаревшими. Даже если ИИ не будет активно стремиться причинить вред, его обширный интеллект и контроль над ресурсами могут сделать вмешательство человека невозможным.
|
|
|
|
Вывод: В статье подчеркивается, что разработка искусственного интеллекта не должна оставаться исключительно в руках руководителей технологических компаний, которые признают 10-25%-ный риск вымирания человечества, но продолжают свои исследования. Без глобального сотрудничества, надзора со стороны регулирующих органов и изменения приоритетов в области развития ИИ мир, возможно, движется к необратимому кризису. Человечество должно действовать сейчас, чтобы ИИ служил инструментом прогресса, а не катализатором разрушения.
|
|
|
|
Источник
|
