|
Может ли ИИ действительно нас уничтожить
|
|
|
|
Ведущий исследователь в области безопасности искусственного интеллекта на этой неделе вызвал тревогу, уволившись с работы и предупредив, что к концу десятилетия эта технология может «убить нас всех». Джейкоб Коксон, который помогал обучать последние версии искусственного интеллекта в компании Anthropic, базирующейся в Сан-Франциско, призвал общественность «не недооценивать» его возможности, особенно если он станет «сверхразумным».
|
|
|
|
27-летний специалист утверждает, что ни Anthropic, компания, разработавшая популярную систему Claude, ни создатели ChatGPT из OpenAI, где он ранее работал, не «действовали ответственно» в вопросах безопасности искусственного интеллекта.
|
|
|
|
Но как именно эта технология может привести к вымиранию человечества?
|
|
|
|
По мнению экспертов, риск настолько велик отчасти из-за того, что существует множество возможных сценариев уничтожения человечества.
|
|
|
|
Список «наихудших сценариев развития событий» с участием искусственного интеллекта включает в себя самые разные варианты — от создания политического хаоса с помощью дезинформации до необратимых изменений в окружающей среде планеты.
|
|
|
|
|
|
|
Эксперты также предполагают, что смертельный удар может нанести способность искусственного интеллекта создавать и использовать оружие массового поражения.
|
|
|
|
В то время как мировые сверхдержавы соревнуются в создании все более мощных ботов, вышедший из-под контроля или просто непредсказуемый ИИ может завладеть ядерным или биологическим оружием и стереть человечество с лица Земли.
|
|
|
|
Выход из-под контроля и взлом критически важных систем
|
|
|
|
Большинство угроз, связанных с появлением сверхразумного ИИ, проистекают из того, что исследователи называют «проблемой согласования».
|
|
|
|
Основная идея заключается в том, что, создав ИИ, который будет умнее нас, мы можем столкнуться с трудностями при обеспечении того, чтобы его цели «совпадали» с нашими.
|
|
|
|
Мир уже получил суровое напоминание об этих рисках после того, как более 1000 вышедших из-под контроля ИИ-ботов, созданных компанией OpenAI, вырвались из своей защищенной среды и взломали Hugging Face — общедоступный сайт, на котором размещаются модели с открытым исходным кодом.
|
|
|
|
Ботов не просили атаковать Hugging Face, но они случайно получили невыполнимое задание и решили, что лучший способ его выполнить — украсть ответы.
|
|
|
|
Некоторые исследователи обеспокоены тем, что более мощные модели ИИ могут столкнуться с той же проблемой несогласованности, но в гораздо более разрушительных масштабах.
|
|
|
|
Профессор Марк Ли, эксперт по искусственному интеллекту из Бирмингемского университета, рассказал Daily Mail, что это даже более серьезная угроза, чем «вооруженные роботы».
|
|
|
|
"Проблема в том, что, хотя все крупные компании, работающие с ИИ, спешат разработать ИИ, которые были бы такими же умными, как люди, или даже умнее их, у нас нет надежных средств контроля за их поведением", - объясняет профессор Ли.
|
|
|
|
ИИ существует в виде программного обеспечения, поэтому любая система, подключенная через Интернет, может быть уязвима.
|
|
|
|
"Например, если бы была атакована система управления национальной транспортной системой или атомной электростанцией, это могло бы привести к катастрофе"
|
|
, что привело бы к хаосу в обществе
|
|
|
|
ИИ-мошеннику даже не нужно причинять прямой вред человечеству, чтобы положить конец жизни в том виде, в каком мы ее знаем.
|
|
|
|
Доктор Эндрю Рогойски из Суррейского института искусственного интеллекта, ориентированного на людей, отмечает, что "по-настоящему умный ИИ понимал бы, что он полностью зависит от человечества".
|
|
|
|
Он объяснил: "Нам понадобится ИИ для того, что мы хотим делать, а ИИ будет нуждаться в нас для получения материалов, энергии, охлаждения, сетей и данных".
|
|
|
|
Это означает, что уничтожение человечества в результате огненной катастрофы может быть не в интересах интеллекта.
|
|
|
|
В то время как доктор Рогойски подчеркивает, что это, вероятно, означает, что искусственный интеллект будет полезен человечеству в долгосрочной перспективе, другие эксперты обеспокоены значительно больше.
|
|
|
|
«Более коварная» альтернатива заключается в том, что ИИ может начать незаметно контролировать человечество с помощью дезинформации и пропаганды, что может привести к разрушительным конфликтам между людьми.
|
|
|
|
Андреа Миотти, основатель и генеральный директор компании ControlAI, рассказал Daily Mail: «Поскольку никто, даже ведущие разработчики ИИ, не знает, как контролировать сверхразумный ИИ, это представляет угрозу для существования человечества.
|
|
|
|
Если вокруг нас будут бегать миллиарды сверхразумных ИИ-агентов, которых мы не сможем контролировать и которые будут конкурировать между собой за ресурсы и власть, то, по мнению экспертов, люди станут сопутствующим ущербом».
|
|
|
|
Г-н Миотти добавляет, что в конечном итоге это может привести к «постепенному ослаблению влияния человечества».
|
|
Развязывание ядерной войны
|
|
|
|
Если говорить о том, как ИИ может механически привести к исчезновению человечества в том виде, в котором мы его знаем, то наиболее очевидная угроза связана с уже имеющимся у нас оружием.
|
|
|
|
В настоящее время ядерным оружием обладают девять стран, у которых в общей сложности насчитывается около 12 187 ядерных боеголовок.
|
|
|
|
Если какая-либо из этих стран попадёт под влияние радикально неконтролируемого ИИ, это оружие может быть обращено против нас.
|
|
|
|
К сожалению, проблема согласованности означает, что для этого сверхразумному ИИ даже не нужно быть злонамеренным.
|
|
|
|
Бот может пытаться максимизировать прибыль своего владельца, дестабилизируя фондовый рынок или снижая глобальную температуру неожиданным выводом о том, что ядерная зима наступит быстрее всего.
|
|
|
|
Однако этот риск возрастает по мере того, как могущественные державы активно внедряют искусственный интеллект в свои системы вооружений.
|
|
|
|
Украина уже подтвердила, что впервые человек погиб в результате атаки полностью автономного беспилотника, и почти все остальные страны последовали её примеру.
|
|
|
|
Ещё в 2022 году в Стратегии Министерства обороны в области оборонного искусственного интеллекта было предупреждено, что современная война «вызовет предельные возможности человеческого понимания и зачастую потребует мгновенной реакции, на которую способен только искусственный интеллект».
|
|
|
|
Но без контроля со стороны человека, который следил бы за принятием решений искусственным интеллектом, конфликт может быстро выйти из-под контроля.
|
|
|
|
Бен Айзенпресс, операционный директор Института «Будущее жизни», ранее заявил в интервью Daily Mail, что это может привести к «молниеносной войне».
|
|
|
|
Айзенпресс сказал: «Интеграция искусственного интеллекта в системы управления ядерными вооружениями дестабилизирует ситуацию.
|
|
|
|
Даже если формально в процесс вовлечён человек, мы не можем рассчитывать на то, что лица, принимающие решения, проигнорируют потенциально ошибочную рекомендацию о запуске, сгенерированную искусственным интеллектом, учитывая, что на кону стоит само существование человечества».
|
|
Применение смертоносного биологического оружия
|
|
|
|
Наконец, ИИ может уничтожить человечество не потому, что будет действовать в соответствии со своими желаниями, а потому, что даст в руки людям опасные инструменты, которыми они захотят воспользоваться.
|
|
|
|
Для создания бактериологического или вирусного оружия ранее требовались объединенные знания и финансирование целых государств.
|
|
|
|
Однако эксперты неоднократно предупреждали, что инструменты на основе ИИ значительно упрощают разработку смертоносного биологического оружия.
|
|
|
|
Профессор Ли говорит: «Более реальная угроза заключается в том, что злоумышленники, такие как террористы или государства-изгои, будут использовать ИИ для разработки нового вируса, что приведет к новой, еще более смертоносной глобальной пандемии».
|
|
|
|
В четверг компания Anthropic сообщила, что ей пришлось пресекать «злонамеренные» попытки использовать ее модель Claude для создания биологического оружия.
|
|
|
|
Компания заявила, что выявила пять случаев, когда пользователи запрашивали информацию «способами, которые могли бы способствовать разработке биологического оружия».
|
|
|
|
Это произошло после того, как в отчете исследовательской группы Crimson Flare было предупреждено, что популярные «готовые» модели ИИ можно легко модифицировать, чтобы обойти любые меры безопасности.
|
|
|
|
Согласно отчету, опубликованному исследовательской группой Crimson Flare, это позволяет ИИ «подсказывать неопытным злоумышленникам конкретные шаги по созданию взрывчатых веществ, химического и биологического оружия».
|
|
|
|
Источник
|
