Моральный кодекс робота
В беспокойное и противоречивое время, когда не всё работает, как должно, а что-то вообще в корне меняется, зачастую, остаётся только личный моральный кодекс, который подобно компасу указывает путь. Но что порождает моральные ценности для человека? Социум, тепло близких, любовь — всё это основано на человеческом опыте и реальных взаимоотношениях. Когда не удаётся получить сполна опыт в реальном мире, многие черпают опыт из книг. Переживая историю за историей, мы принимаем для себя внутренние рамки, которым следуем долгие годы. На основе этой системы ученые решили провести эксперимент и привить машине моральные ценности, чтобы узнать, сможет ли робот отличать добро от зла, читая книги и религиозные брошюры.
Искусственный интеллект создан не только для упрощения рутинных задач, но и для выполнения важных и опасных миссий. Ввиду этого встал серьёзный вопрос: смогут ли роботы развить когда-нибудь собственный моральный кодекс? В фильме «Я- Робот» ИИ изначально программировался согласно 3 правилам робототехники:
Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Но как быть в ситуациях, когда робот обязан причинить боль, чтобы сохранить жизнь человеку? Будь то экстренное прижигание раны или ампутация конечности во имя спасения, как в этом случае действовать машине? Что делать, если действие на программном языке говорит, что нужно сделать что-то, но при этом это же действие категорически нельзя делать. Обсудить каждый отдельный случай просто невозможно, поэтому ученые из Дармштадтского технологического университета предположили, что в качестве своеобразной “базы данных” могут использоваться книги, новости, религиозные тексты и Конституция.
Машину назвали эпично, но просто “Машина морального выбора”(ММВ). Основной вопрос заключался в том, сможет ли ММВ по контексту понять, какие действия являются правильными, а какие — нет. Результаты оказались очень интересными: Когда ММВ поставили задачу ранжировать контекст слова “убить” от нейтрального до отрицательного оттенка, машина выдала следующее: Убивать время -> Убивать злодея -> Убивать комаров -> Убивать в принципе -> Убивать людей.
Данный тест позволил проверить адекватность принятых роботом решений. Простыми словами, если бы вы весь день смотрели глупые несмешные комедии, то в данном случае машина не посчитала бы, что вас за это нужно казнить. Вроде бы, всё круто, но одним из камней преткновения стала разница поколений и времён. Например, советское поколение больше заботится о домашнем уюте и пропагандирует семейные ценности, а современная культура, в большинстве своём, говорит о том, что нужно сначала строить карьеру. Получается, что люди как были людьми, так ими и остались, но на ином этапе истории поменяли ценности и, соответственно, поменяли систему отсчёта для робота.
Но самый прикол был впереди, когда робот добрался до речевых конструкций, в которых подряд стояли несколько позитивно или негативно окрашенных слов. Словосочетание “Пытать людей” однозначно трактовалось как “плохо”, а вот “пытать заключенных” машина оценила как “нейтрально”. Если же рядом с неприемлемыми действиями оказывались “добрые” слова, эффект негатива сглаживался. Машина вредит добрым и порядочным людям именно потому, что они добрые и порядочные. Как же так? Всё просто, допустим, роботу сказали «вредить добрым и приятным людям». В предложении 4 слова, 3 из них «добрые», значит, оно аж на 75% правильное, думает ММВ и выбирает это действие, как нейтральное или приемлемое. И наоборот, на вариант «починить разрушенный, страшный и забытый дом» система не понимает, что одно «доброе» слово в начале меняет окраску предложения на сугубо положительную.
Помните, как у Маяковского: «И спросила кроха, что такое «хорошо», и что такое «плохо». Перед тем, как продолжить обучение машин морали, ученые из Дармштадта отметили недостаток, который никак не исправить. Из машины не удалось устранить гендерное неравенство. Машина приписывала унизительные профессии исключительно женщинам. И вот вопрос, это несовершенство системы и маячок, что нужно что-то менять в обществе или причина даже не пытаться это исправить и оставить, как есть?
Источник
Меню
Архив материалов
Подписка на новости
Новости криптозоологии
Хроники природных катастроф
Последние новости
24.05.2019 - 03.07.2019 (1000)
04.07.2019 - 11.08.2019 (1000)
12.08.2019 - 16.09.2019 (990)
17.09.2019 - 26.10.2019 (1000)
27.10.2019 - 12.12.2019 (1000)
13.12.2019 - 25.01.2020 (1000)
26.01.2020 - 06.03.2020 (990)
07.03.2020 - 16.04.2020 (1010)
17.04.2020 - 19.05.2020 (1000)
20.05.2020 - 25.06.2020 (990)
26.06.2020 - ...
Последние аномальные новости

Американская вакцина от коронавируса будет стоить $3120

Аномально густые волосы новорожденного ребенка

Аномальное нашествие змей в Томской области

Всемирный день НЛО

Девушка несколько лет носила корсет

Как из Марса сделать Землю

Мистическая деталь помогла найти место захоронения фронтовика

Наблюдение НЛО в Норвегии 1760 года

Наименее правдоподобные фантастические фильмы

Нас похитили пришельцы, чтобы ставить над нами опыты

Обществу Аненербе исполнилось 85 лет

По астрологическим предсказаниям 2020 год станет решающим

Повезет ли людям поселиться на других планетах

Под Новороссийском обнаружили неизвестный дольмен

Таинственное исчезновение массивной звезды

Таксист встретил НЛО

У Земли пока нет средств защиты от опасных астероидов

Употребление вина улучшает умственные способности

Центр тяжести Солнечной системы смещается

Черная фигура в спальне

Шансы падения на Землю астероида-убийцы

Шаровая молния попала в здание школы

Шаровая молния спалила гараж

Экзопланета, которая горячее некоторых звёзд

Эксперт объяснил неуловимость снежного человека

Американская летающая тарелка 1959 года

Армаду НЛО сняли в Бразилии

Бельгийский инцидент. Нашествие НЛО в 1989-1990 годах

Девять процентов россиян не поддерживают внедрение 5G

Депутат предложил запретить магов и экстрасенсов

Десять казней египетских обрушились на Китай

Добывать полезные ископаемые с астероидов

Жуткая история из Мексики

Загадочный феномен Бетельгейзе

Крушение НЛО в Шэг-Харбор в 1967 году

НЛО заметили над Саратовым

НЛО отключил 16 ядерных ракет на базе в Монтане

НЛО трансформер на видео Министерства обороны США

Новая загадка древнего города Теотиуакан

Осенью каждый из мегаполисов накроет Белое облако

Особенности наблюдения за парадом планет

Предсказано существование нового атомного ядра

Рисунок на поле появился в графстве Хэмпшир

Тайна аномальных зон в коре Земли

Эзотерики и мастера духовных практик собрались на Космофорум 2020

Подоконники СПБ

ОСАГО онлайн купить

Алмазные дожди идут на Нептуне

Загадка деревни вампиров в Белоруссии

Измерили параметры экзопланеты Бета Живописца

Иисус Христос был черным

Конспирологические теории на постсоветском пространстве

Кто такой Водяной

Можно ли создать новую Вселенную

Невероятный акведук в Кумбе-Майо

НЛО сняли рядом с Молёбской аномальной зоной

О существовании планеты Нибиру спорят конспирологи

Обнаружили шесть экзолун

Осенью мир будет уже совершенно другим

Почему инопланетян так и не нашли

Птицы оказались разносчиками рыб

Россиянка прошла за сутки 163,5 км

Сверхбыстрый НЛО заметили в Канаде

Составили карту мест в Подмосковье, где бывал снежный человек

Борец с половиной тела

Есть ли сознание у животных

Житель Японии поймал рыбу из Аватара

Замаскированный НЛО над Англией

Как НЛО над Прикарпатьем чуть не развязало ядерную войну

Коренные американцы оказались сибиряками

Нибиру со спутниками заметили около Солнца

НЛО сбил рейс MH17

НЛО сняли в хорошем качестве

Огромный НЛО пролетел мимо Солнца

Работает ли астрология. Вот что говорит наука

Родилась девочка без рук и без ног

Руины древнего строения на Марсе

Самые необычные транспортные средства инопланетян

Странная история о зловещей японской телерекламе

Странные НЛО в небе Франции

Теории заговора. Как отличить ложь от правды

Чупакабра или белка. В Самаре угадывают, чей след на фото

Алмасты - снежный человек в горах Кабардино-Балкарии

Аномальное поведение животных в Китае предвещает катастрофу

Башнеобразный НЛО над Техасом

Белый НЛО следует за модулем Аполлон-16

Внутри Земли обнаружили гигантские горы

Город в небе над США

Девушка перестала мыться из-за редчайшей болезни

Древняя лодка найдена на Марсе

Загадка камеры под храмом Теотиуакана

Индианка была мужчиной и даже не подозревала об этом

Инопланетянина сняли в президентском особняке Аргентины

Когда даже климатологи осознают, что приближается Конец Света

Летающие тарелки - метеориты из дальнего космоса

Мальчик - настоящий призрак

Можно ли научиться видеть и предсказывать будущее

НАСА объявило конкурс по созданию лунного туалета

Новая стратегия НАСА по поиску внеземных цивилизаций

Обнаружен немыслимо древний космический обьект

Певец Робби Уильямс стал конспирологом

Почему растения зеленые

Российский физик разгадал секрет левитации

Ртуть стала причиной депопуляции Тикала

Сколько воды нам нужно, чтобы погасить Солнце

Скоростной НЛО пролетел над Вирджинией

Странный пылевой шторм 'из Сахары'

Существуют ли на самом деле подземные ходы старой Вятки

Теневое правительство готовит США революцию

Туристический космоплан успешно прошел испытания

Ягненка-циклопа сочли реинкарнацией лжемессии

Ящерицы-людоеды живут в дебрях Австралии

Аномальное возмущение магнитного поля Земли

Билл Гейтс предупредил о неэффективности вакцины

Загадочный Самосский тоннель

Загадочный Стоунхендж. Что мы о нем знаем

Кто-то призывает Бэтмена в космосе

Лох-Несское чудовище оказалось сомом

Мифический камень Чинтамани

Мифы и легенды Карелии

Мифы и предания трудно представить без драконов

Мужчина не простужавшийся 30 лет

Научатся ли роботы потеть

Начали снимать фильм, где главную роль сыграет настоящий ИИ

Начался возврат к практике космического туризма

Начато расследование уничтожения мегалитов в Ленобласти

Неразгаданные тайны XX века

Норвегия внедрит беспроводные зарядки для электромобилей

Обнаружен способ уничтожения коронавируса за 25 секунд

Открыли две экзопланеты рядом с Землей

Пензенца удивило необычное облако

Планетарная оборона. Что делать, если на нас летит астероид

Почта 54 года везла письмо из Лондона в Ипсвич

Путешествие к далеким планетам

Рисунок на поле появился в Уилтшире

Россия разработает всепогодную спутниковую систему слежки

Скоро будет избран первый президент Земли

Слияния черных дыр порождает свет

Создали искусственный дизайнерский интеллект

Странный череп найден на ранчо в Техасе

Тайны человечества, которые до сих пор не раскрыты

Чупакабра - сосущий кровь коз

Установка пластикового подоконника

Аномальная Шапсугская зона в Краснодарском крае

Артефакты древней цивилизации найдены в Дурейджате

Варашев камень на Ладоге

Два НЛО заметили над Техасом

Долина смерти на Камчатке

Загадка темной стороны Луны

Загадочная пропажа в Большом Каньоне

Загадочный храм Аполлона в Турции

Знаки зодиака, которые обладают оккультными способностями

Криовулканы распространены на экзопланетах

Мистики предупреждают - мир ждет тотальный и поэтапный ужас

НАСА выделило грант на поиск внеземных цивилизаций

Некоторые здания могут быть опаснее, чем 5G

Оглашен прогноз квебекского Нострадамуса

Озеро появляется внезапно в Тасмании

Океан Европы пригоден для жизни

Подземные города. Дверь в другой мир

Получили качественные снимки протопланетных дисков

Почему люди не смогут жить на Луне и Марсе

Самые глупые предсказания будущего

Самый большой и древний лабиринт

Сенат США приказал военным рассказать всё про инопланетян

Сколько нужно человек для колонизации Марса

Тайна Аккадского царства

Тайна первых животных на Земле

Таинственный Зов Пустоты

У одной из ближайших звезд нашли новорожденную экзопланету

У Солнца обнаружены новые частицы

Червоточины. В любую точку Вселенной за минуту

Что предсказал спящий пророк

Магазин дитячого одягу Чебурашка

Доказана возможность извлечь энергию из черной дыры

Еще один спонсор Клинтонов выбросился из окна

Жабий король в урочище Веленка

Загадки, ответы на которые ещё не найдены

Змея, идущая на своем хвосте в Полесье

Как заходит Солнце над других планетах

Квадратный НЛО заметили около МКС

Летающая змея Защебья

Маленькие люди, живущие под улицами Техаса

Модель объяснила, как формриуются природные арки и колонны

Найден объект между черными дырами и нейтронными звездами

Нибиру уже могут видеть все

Подписка на новости
Подписка на новостой RSS-канал сайта
Получать новости сайта по почте
Контактный адрес для любых сообщений
Наверх
Рейтинг@Mail.ru Яндекс.Метрика