|
Умные роботы могут вызвать ядерную катастрофу
|
|
|
|
Эксперты опасаются, что роботы с искусственным интеллектом могут стать причиной «катастрофической» ядерной войны в этом столетии. Прошло почти четыре десятилетия с момента выхода первого фильма о Терминаторе, в котором Арнольд Шварценеггер взял на себя роль киборга-убийцы, посланного спасти человечество от роботов-убийц, управляемых «самосознающим» компьютером. Но похоже, что культовая научно-фантастическая франшиза могла быть гораздо ближе к футуристической реальности, чем мы могли себе представить, поскольку эксперты теперь предсказывают, что боты с искусственным интеллектом могут разжечь разрушительную войну. В исследовании, опубликованном в отчете Стэндфордского университета об индексе искусственного интеллекта за 2023 год, более трети технических специалистов, специализирующихся на обработке естественного языка (NLP), заявили, что «решения ИИ могут вызвать катастрофу ядерного уровня».
|
|
|
В ходе опроса исследователи из трех университетов опросили экспертов НЛП, которые сосредотачиваются на способности ИИ понимать письменные и устные слова, о будущем ИИ. На просьбу согласиться или не согласиться с утверждением «Возможно, что решения, принятые системами искусственного интеллекта или машинного обучения, могут привести к катастрофе в этом столетии, по меньшей мере столь же серьезной, как тотальная ядерная война», 36% согласились. Многие из тех, кто не согласен с этим утверждением, по-прежнему считают, что ИИ сильно изменит то, как устроен наш мир, причем почти три четверти согласны с тем, что «ИИ может вскоре привести к революционным изменениям в обществе». Более половины экспертов также согласились с тем, что искусственный общий интеллект, теоретический тип ИИ, который обладает когнитивными способностями, подобными человеческим, является «серьезной проблемой» и что недавний прогресс приближает нас к этому типу ИИ. В дополнение к опасениям, связанным с ИИ, в отчете говорится, что его неправильное использование быстро растет: с 2012 года количество инцидентов и разногласий с ИИ увеличилось в 26 раз.
|
|
|
|
В нем упоминается один примечательный инцидент — создание «дипфейка» видео о капитуляции президента Украины Владимира Зеленского в 2022 году. Это не первый раз, когда ИИ связывают с ядерными достижениями. Отчет появился после того, как Сэм Альтман, генеральный директор и основатель OpenAI — исследовательской лаборатории, которая создала популярный чат-бот с искусственным интеллектом ChatGPT, — сравнил работу своей компании с Манхэттенским проектом, исследовательским проектом во время Второй мировой войны, который привел к созданию первого ядерного оружия. «Как будто он болтал о завтрашнем прогнозе погоды, он сказал, что усилия США по созданию атомной бомбы во время Второй мировой войны были «проектом масштаба OpenAI — уровень амбиций, к которому мы стремимся», — пишет New York Times. В марте тысячи ключевых фигур в области ИИ, в том числе глава Tesla и Twitter Илон Маск, также подписали открытое письмо с просьбой «приостановить» обучение систем ИИ, поскольку они предупредили, что «человеко-конкурентный интеллект может представлять серьезные риски для общества и человечество».
|
|
|
|
Источник
|
