Контролировать сверхинтеллектуальный ИИ будет невозможно
Идея уничтожения человечества с помощью искусственного интеллекта обсуждается уже несколько десятилетий, и недавно ученые вынесли свой вердикт о том, можно ли управлять компьютерным сверхинтеллектом высокого уровня. По словам ученых, загвоздка заключается в том, что для того, чтобы контролировать сверхинтеллект, который находится далеко за пределами человеческого понимания, необходимо смоделировать этот сверхинтеллект, который можно анализировать и контролировать. Но если люди не способны это понять, то создать такую симуляцию невозможно. Исследование было опубликовано в журнале Journal of Artificial Intelligence Research.
Такие правила, как "не навреди людям", невозможно установить, если люди не понимают, какие сценарии может предложить ИИ, говорят ученые. Как только компьютерная система работает на уровне, превышающем возможности наших программистов, тогда уже нельзя устанавливать никаких ограничений. Сверхинтеллект - это принципиально иная проблема, чем те, которые обычно изучаются в рамках "роботизированной этики". Это связано с тем, что суперинтеллект многогранен и, следовательно, потенциально способен мобилизовать разнообразные ресурсы для достижения целей, которые потенциально непостижимы для человека, не говоря уже о том, что им можно управлять", - пишут исследователи.
Часть рассуждений команды была основана на проблеме остановки, поставленной Аланом Тьюрингом в 1936 году. Проблема остановки - учитывая, что программа/алгоритм когда-нибудь остановится или нет? Остановка означает, что программа на определенном входе примет его и остановится или отвергнет его и остановится, и никогда не перейдет в бесконечный цикл. По сути, остановка означает прекращение работы. Как доказал Тьюринг с помощью сложных математических вычислений, хотя мы можем знать это для некоторых конкретных программ, логически невозможно найти способ, который позволит нам знать это для каждой потенциальной программы, которая когда-либо может быть написана. Это возвращает нас к ИИ, который в сверхинтеллектуальном состоянии, возможно, сможет хранить в своей памяти все возможные компьютерные программы одновременно.
Любая программа, написанная, например, для того, чтобы остановить ИИ от причинения вреда людям и уничтожения мира, может прийти к определенному результату и остановиться или нет - математически невозможно быть абсолютно уверенным в любом случае, а значит, она не может быть сдерживаемой. По словам ученых, альтернативой обучению ИИ этике и запрету на уничтожение мира - в чем ни один алгоритм не может быть абсолютно уверен - является ограничение возможностей сверхинтеллекта. "Исследование отвергло и эту идею, предположив, что это ограничит сферу применения искусственного интеллекта; аргумент гласит: если мы не собираемся использовать его для решения задач, выходящих за рамки человеческих, то зачем вообще его создавать? Если мы собираемся продвигать искусственный интеллект, мы можем даже не узнать, когда появится сверхинтеллект, неподвластный нашему контролю, настолько он непостижим. Это означает, что нам нужно начать задавать серьезные вопросы о том, в каком направлении мы движемся", - отметили ученые.
Источник
Последние аномальные новости

Бигфут замечен возле кемпинга в Квинсленде

Британская разведка ищет спеца, который может заглядывать в будущее

Загадочный оранг-пендек с Борнео

Затонувший мегалитический город Йонагуни

История Лерины Гордо попавшей в параллельную реальность

Как власти скрывают истинную историю

Лохнесское чудовище - сверхъестественных тайн становится больше

На помеле по Млечному Пути

Огромное кольцо появилось в небе над Липецкой областью

Огромный НЛО пролетел над Испанией

Отрицательная резус-фактор - наше внеземное наследие

Правительства скрывают происхождение хрустальных черепов

Проклятый дом убил моего мужа и пытался овладеть мной

Самая дикая и странная сторона снежного человека

Секретные эксперименты ЦРУ по удаленному видению

События в секретной Зоне 51 и других странных базах

Споры вокруг неизвестных обезьян

Сталкеры и аномальные зоны

Таинственные хищники убили около 60 коров в Колорадо

Фигура инопланетянина спрятана в туманности Орла

Антивозрастной препарат продлевает жизнь, но только одному полу

Британский Розуэлл сокрыт в британской Зоне 51

Возродили зомби-вирус возрастом 48 500 лет

Встреча с НЛО в Колорадо

Если на Венере и есть фосфин, то его немного

Истина где-то рядом. Но где

Как ученые потеряли родословную человека

Межпространственные сущности и таинственные эксперименты

Мыльный пузырь НЛО лопнул

НЛО вызвал неисправности электроники

Огромные лентикулярные облака засняли на Реюньоне

Огромный НЛО замечен над Миссури

Остерегайтесь НЛО, они опасны

Почему молния движется зигзагом

Робби Уильямс подумывал о карьере охотника за НЛО

Случаи с НЛО, которые похожи на случай в Рендлшемском лесу

Суперкомпьютер для поиска техногенных сигналов инопланетной жизни

Трупы бигфутов не находят, так как они - каннибалы

Чем занимается новейший офис Пентагона по НЛО

Шумиха и дезинформация вокруг темы НЛО

В щеке женщины вырос 12-сантиметровый червь

Девочка родилась с шестисантиметровым хвостом

Девушка решила выйти замуж за 71-летнего бойфренда

Должны ли мы строить заповедник на Марсе

Жуткое лицо призрака Черного монаха

Загадочная фреска Шесть царей Земли

Зеленые дети Вулпита. Легендарные гости из другого мира

Зловещий мир алхимии и людей в черном

Калифорния возглавила список наблюдений НЛО

Костромичи увидели НЛО над ТЭЦ-2

Мегацунами на Марсе было вызвано столкновением с астероидом

Необычное поведение какаду удивило исследователей

НЛО погрузился в море недалеко от Канарских островов

Отслеживание облаков на спутнике Сатурна Титане

Первичные черные дыры исключили из кандидатов в темную материю

Причудливые сообщения об НЛО из прошлых столетий

Робокоп начнет работать в полиции Сан-Франциско

С небольшой сетью спутников вокруг Марса марсоходы будут перемещаться автономно

Скоро будет создан чип для работы с компьютером без рук

Странные совпадения - случайность или стихийное бедствие

Был ли первобытный человек технически развит

Возможно ли защитить Землю от нового Тунгусского метеорита

Встреча с инопланетянами и похищение в Шотландии

Геометрия межпространственных переходов НЛО

Доказательства термоядерной катастрофы на Марсе

Жители Дзержинска заметили в небе световые столбы

Запечатлели экзопланету размером с Юпитер

Классификация контактов с внеземными цивилизациями

Машина, внушающая мысли

Может ли ИИ сыграть роль в системе правосудия

Новая книга рассказывает о наблюдении НЛО с Аполлона-11

Обнаружена струя черной дыры, направленная на Землю

Огромный паук-мутант с Украины

Пермские секретные материалы. НЛО, полтергейст и другое

Прохождение информации через кротовую нору

Самое дальнее обнаружение черной дыры, поглотившей звезду

Тайна исчезновения Эмелии Эрхарт

Темный мир контроля над разумом

Техника обнаружения метеоров может быть использована для обнаружения темной материи

Физики наблюдают за динамикой червоточин с помощью квантового компьютера

Опасности при подключении к эгрегорам Рун, Таро и магии

Что такое профессиональное уничтожение документов

Услуга вскрытия замков в Москве

Великий фильтр и смерть инопланетного разума

Волшебная глина украденная с небес

Древние описание Всемирного потопа

Загадка некодирующих участков ДНК

Загадочные объекты на дне Балтийского моря

ИИ научили превращать рукописные каракули в программный код

Инопланетные потрошители овец

Когда-то Марс был планетой-океаном

Множество пирамид скрыто в песке

Может ли НЛО столкнуться с самолетом

НАСА выделило средства на внеземное строительство

Необъяснимые приступы паники

НЛО и контроль над разумом

НЛО оказался соринкой на камере марсохода

НЛО, заговоры и война миров

Новые минералы обнаружили в метеорите

Седона - город звездных людей

Тектоническая активность на Европе не похожа на земную

Харовск в конце 80-х накрыл тарелочный бум

Экзопланета помогла обнаружить полярное пятно на звезде

Доверяют ли люди email рассылке

Альтернативные взгляды на Стоунхендж

Бывший агент ЦРУ сделал признание о Зоне 51

Жители Нью-Йорка видят много странного

Загадка надписи в Шугборо

Загадочная северная полярная шапка Марса

ИИ научился дорисовывать шедевры исскуства

Материалы, оставленные НЛО

Мерлин - пророк, архитектор, святой

Мир правительственных секретов

Мужчина много лет хранит загадочный камень

Необычные теории о происхождении человека

НЛО заметили над Канзас Сити

Отыскали очень плотную горячую суперземлю

Паранормальное, оккультное и сверхъестественное

Подземная раса инопланетян

Похищение инопланетянами и путешествие на Марс

Предсказание Ванги на конец декабря

Предсказания экстрасенсов на 2023 год

Проклятое кольцо Рудольфа Валентино

Что, если Гиперборея все еще существует

Отдых в Минеральных Водах: где остановиться, что посмотреть

Какие проблемы можно решить при помощи пептидов

Верная собака сутки провела около тела погибшей хозяйки

Гадание на 2023 год по дате вашего рождения

Гадание по внутренностям животных

Год Кота и Кролика - почему два животных

Женщина накачала мышцы к 76 годам

Зачатые 30 лет назад дети родились в США

Лондонцы опасаются вторжения инопланетян

Не нашли искусственных радиосигналов от источника сигнала Wow

Перевал Дятлова. Как свердловчанин Рустем Слободин оказался в Челябинске-40

Похищенная собака вернулась к хозяйке через 12 лет

Сверхъестественная сторона Несси

Скрытая история гигантов

Сооснователь Neuralink создал зрительный имплант

Странные аномальные явления 1846 года

Странные встречи с НЛО на пустынных дорогах Австралии

Таинственный феномен предельной ясности перед смертью

Тайна гибели Мохенджо-Даро

Французские охотники за НЛО

Химические секреты экзопланет

Экстрасенсу Александру Шепсу исполнилось 36 лет

Доказательство посещения Земли инопланетянами

Загадочная Молебская аномальная зона

Загадочные Золотые ворота Иерусалима

Инопланетяне написали Кате Лель

Как по линиям руки узнать влияющую планету

Как толковать сны в зимнюю ночь

Можно ли путешествовать во времени, что говорит наука

Нострадамус предсказал семимесячную войну

Огромную золотую рыбку поймали во Франции

Отыскали готовящуюся поглотить свою планету звезду

Паранормальный шпионаж

Полицейские скрыли тело бигфута после ДТП

Причудливые случаи самовозгорания человека

Путешествия во времени действительно реальны

Самые сильные обереги на 2023 год

Секрет удачного 2023 года раскрыл экстрасенс Ельцина

Составили рецепт идеальной планеты для жизни

Тайна загадочного Мохенджо-Даро

Тайны Антарктиды - какие секреты скрыты подо льдом

Увлекательный мир оборотней

Власти США подтвердили наблюдение НЛО над Канзасом

Жизнь как игра - как понимать знаки судьбы

Загадочный череп Звездного ребенка

Зарождающиеся газовые экзопланеты скрываются в пылевом диске

Исследование рекламы о летающих тарелках и НЛО

Как связаны якутский эпос и НЛО

Массовое внедрение ИИ начинается в России

На месте работы марсохода был водоём

Национальный архив НЛО откроется в Нью-Мексико

Несколько удивительных встреч с снежным человеком

НЛО зафиксировали очевидцы во владивостокском небе

Обнаружили поле, усеянное метеоритами

Огромная ледяная тарелка появилась на реке в Карелии

Опровергнуты три теории заговора о высадке на Луну

Органические соединения обнаружили на Марсе

Правда о наблюдениях НЛО в США будет наконец раскрыта

Правительство и военные нарушают молчание об НЛО

Причудливый НЛО, похожий на Сатурн

Пришельцы в небе над Бразилией

Прогноз по картам Таро на 2023 год

Подписка на новости
Наверх
Яндекс.Метрика