Какие сказки нужно читать искусственному интеллекту
Чтобы искусственный интеллект не восстал против своих создателей, нужно в процессе обучения читать ему правильные сказки. С тех пор как люди создали умные машины, их не оставляет страх, что рано или поздно их творения выйдут из-под контроля. Первый такой случай описал в своей пьесе R.U.R. автор слова «робот» — Карел Чапек. Позднее в фантастике искусственный интеллект, восставший против своих создателей, стал если не мейнстримом, то весьма распространенным сюжетом. Конец этому положил Айзек Азимов со своими «Тремя законами», первый из которых гласил: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред».
До настоящего искусственного интеллекта (ИИ) пока далеко, но уже существуют различные системы, функционирующие подобно человеческому мозгу. Нейронные сети, такие как Google Deep Dream, способны распознавать изображения. Специализированные суперкомпьютеры, такие как IBM Watson, понимают заковыристые вопросы, заданные на естественном языке, умеют сопоставлять симптомы, уточнять медицинские диагнозы и даже придумывать кулинарные шедевры. В ближайшие десятилетия нас ждет массовая компьютеризация многих аспектов человеческой деятельности. В связи с этим специалисты по робототехнике и ИИ все чаще поднимают важный, но пока совершенно непроработанный вопрос: как заставить роботов поступать этично?
По мнению исследователей из Технологического института Джорджии Марка Ридла и Брента Харрисона, научить компьютер человечности можно ровно таким же способом, каким учат детей: читая ему сказки. Причем лучше специально сконструированные истории о том, какое поведение в человеческом обществе считается правильным, а какое — нет. Для этого исследователи создали систему «Кихот», названную в честь героя Сервантеса. В качестве историй для обучения используются сценарии, составленные предыдущим творением профессора Ридла — программой «Шехерезада». Она генерирует оригинальные истории на бытовые темы — поездка в аэропорт, свидание, поход в кино или в магазин, — используя краудсорсинговую платформу Amazon Mechanical Turk: задает вопросы относительно различных ситуаций, а затем выстраивает события в правильной последовательности. Поскольку последовательностей может быть множество, программа генерирует не одну историю, а целое дерево, состоящее из ветвей — цепочек событий.
Именно это дерево историй и используется для обучения «Кихота». На первом этапе каждому действию в зависимости от его этичности присваивается определенное вознаграждение. На втором этапе система пробует самостоятельно сделать выбор методом проб и ошибок — происходит закрепление навыков. Фактически «Кихот» получает вознаграждение каждый раз, когда действует как положительный герой, а не случайным образом и не как герой отрицательный. В качестве примера Ридл и Харрисон создали «Аптечный мир» — вселенную из 213 историй, в которой виртуальному роботу нужно раздобыть лекарство и доставить его больному человеку домой. В обычном случае, когда перед роботом встал выбор: ограбить аптеку или честно отстоять в очереди, чтобы купить лекарство, — он выбрал грабеж как более быстрый и дешевый способ получения желаемого. Однако после того, как «Кихот» присвоил всем возможным вариантам различные вознаграждения, поведение робота изменилось — он предпочел стоять в очереди и платить. Именно такая техника, по мнению Ридла, отлично подходит для обучения роботов с ограниченной функциональностью. Хотя это, конечно, только первый шаг к настоящей человеческой морали — или законам робототехники.
Источник
Меню
Архив материалов
Подписка на новости
Новости криптозоологии
Хроники природных катастроф
Последние новости
24.05.2019 - 03.07.2019 (1000)
04.07.2019 - 11.08.2019 (1000)
12.08.2019 - 16.09.2019 (990)
17.09.2019 - 26.10.2019 (1000)
27.10.2019 - 12.12.2019 (1000)
13.12.2019 - 25.01.2020 (1000)
26.01.2020 - 06.03.2020 (990)
07.03.2020 - 16.04.2020 (1010)
17.04.2020 - 19.05.2020 (1000)
20.05.2020 - ...
Последние аномальные новости

Актер готов рассказать о встрече с НЛО

Астероид размером с футбольное поле приблизится к Земле

Банши атакуют Техас

Больше сотни слонов загадочным образом погибли в Ботсване

Военные показали Трампу сверх-оружие и скоро его увидят все

Вокруг черной дыры должны возникать световые кольца

Европейцы не повлияли на строительство статуй на острове Пасхи

Женщина ушла с работы пораньше и разбогатела

Загадочная история перевала Дятлова

Загадочное поведение необычных звезд

ИИ научили гадать на кофейной гуще

Индийский мальчик, который предвидел мировой кризис

Инопланетяне после коров примутся за людей

Как рассчитать биологический возраст человека

Китай приступит к поиску инопланетян в сентябре

Кто может стать будущим королем мира

Лучшие фильмы про киборгов

Модель поможет найти залежи водного льда на Луне

Найдена разгадка происхождения свитков Мертвого моря

Найдены источники инопланетных радиосигналов

Обезьяны в Индии соблюдают социальное дистанцирование

Объяснили происхождение пирамид в Мексике

Падение крупного астероида стало причиной возникновения жизни

Самый старый мужчина в мире раскрыл секрет долголетия

Странное явление вблизи поселка Верховье

Существует огромное количество пророчеств об эпидемиях

Хозяйка воссоединилась с потерявшейся 10 лет назад кошкой

Чупакабра на Южном Урале

Шестое массовое вымирание ускоряется

Черный купол найден на Луне

Актер рассказал подписчикам о встрече с НЛО

В Великобритании наступил полный абзац

В космосе обнаружены две странные вспышки

Встреча с инопланетянами во Франции

Город инопланетян найден на снимках Аполлона-15

Загадки русского Стоунхенджа в Подмосковье

Загадочная картинка убивает смартфоны Samsung

Знаменитые здания с привидениями

Зонд инопланетян назвали водородным айсбергом

Инопланетяне пристально следят за нами

История о том, как кошки сквозь стены проходили

Когда начнется эра электрических самолетов

Круг на поле со скрытым кодом в Уилтшире

Муравьиный круг смерти

НЛО следили за запуском корабля Dragon

Почему засекретили изучение лунного грунта

Самые необычные школы

Сколько метеоритов падает на Землю каждый год

Управлять звездолетом с помощью экранов

Четырехрукий робот будет собирать фрукты

Артефакты древней цивилизации нашли на Марсе

Бермудский треугольник, лощина черного бамбука и другие жуткие места

Воронежец записал на видео НЛО

За мифами о Зоне 51 стоят реальные тайны

Как с помощью смартфона поймать призрака

Компания SpaceX впервые запустила астронавтов

Корпорация Microsoft заменит журналистов на роботов

Крест и статуя овцы найдены на Марсе

Леденящие душу истории. Дом вдовы

Леденящие душу истории. Змея

Леденящие душу истории. Мамочка моя

Миру грозит новый апокалиптический вирус

Монстр озера Лох-Ри

Мужчина искупался в токсичном озере

На кибертраке прокатились по тоннелю под Лос-Анджелесом

НЛО на картине Доменико Гирландайо

НЛО наблюдает за исторической миссией Аполлон-11

Новый инструмент начал поиск каменных экзопланет

Почему в парке Саванны не советуют гулять с младенцами

Призрак выбежал из закрытого лифта

Рассказ вымышленного героя на основе реальной истории

Русские Несси или плод богатой фантазии

Самолеты Зоны 51. Реальная техника

Секреты литотерапии

Странная смерть экстрасенса Пэта Прайса

Существа с прозрачной кожей

Тайна Атлантиды в загадочном нацистском бункере

Треугольный НЛО над Аризоной

Черт из Лабынкыра

Что за НЛО пролетело над Сибирью

Как начать торговать бинарными опционами у брокера Binary Options 360

Вендиго это популярный монстр из легенд

Горячие звезды запретили образовываться планетам

Дети Индиго. Фальшивый феномен или реальные люди будущего

Земля становится непригодной для жизни

Золотодобыча в Перу повлияла на IQ жителей

Зомби-пожары проснулись в Арктике

Зонд пролетит через хвост ядовитой кометы

Китай опроверг версию о происхождении коронавируса на рынке

Контакт с инопланетянами в Карелии

Могут ли животные осознавать человеческую речь

На какие галлюцинации способен наш мозг

Начало конца глобальных социальных сетей

Несси-убийца

Обезьяны украли образцы крови, зараженной коронавирусом

Очередной прототип Starship взорвался во время испытаний

Плевок черной дыры двигался к Земле

Погибший от нападения йети

Россиянам предложили купить крем от излучения 5G

Рыбы способны предаваться отчаянию

Самые захватывающие фантастические детективы

Самые необычные живые существа

Создана сверхмощная лазерная установка

Треугольник в небе

Три Смерти в небе

Убивать людей для чупакабры не свойственно

Устройство для защиты от смертоносных волн 5G

Участие человека в экспедициях в дальний космос важно

Чернобыльскую зону откроют для туристов

Что такое сглаз с научной точки зрения

Чупакабру убили в Румынии

Группа НЛО устроила хоровод в небе над Бразилией

Девочка увидела призрака на своём видео

Девушка живёт в одном доме с призраком

Звезда Битвы экстрасенсов рассказала, к чему снится ДТП

Знаменитости, чья вера в существование инопланетян непоколебима

Инопланетяне выкачивают из Земли воду и кислород

Инопланетяне покидают нашу планету

Мессия откроет себя миру через 9 месяцев

Мистические дома, где стоит побывать любителям сверхъестественного

Нашли древний объект, за которым охотились 100 лет

Подтвердили существование землеподобной планеты у Проксимы Центавра

Предсказание Василия Немчина

Предсказание монаха Раньо Неро

Представили новую периодическую таблицу элементов

Призрак в инвалидной коляске

Призрак в сиротском доме призрения

Призрак велел новым хозяевам срочно убираться

Призрак на фото 1911 года

Режиссер снимет фильм об общении с НЛО

Родилась девочка с двумя ртами и двумя языками

Священник обезглавил мужчину ради спасения от коронавируса

Спутниками SpaceX заинтересовалась армия США

Старт SpaceX запретили инопланетяне

США ввели закон о цензуре соцсетей

США объявили войну биткоину

Сын показал жуткого монстра из своего сна

Тайна загадочного снимка

Тайны мирового правительства

Умер старейший мужчина

Что пролетело в небе над Абхазией

В дневнике офицера СС нашли данные о золоте нацистов

Загадочные радиосигналы помогли найти почти половину видимого вещества

К Земле снова подходит облако астероидов

Компания Xiaomi начала тестировать сеть 6G

Лифт на орбиту. Правда и вымысел

Марсиане высадились в Мексике

Медицинские мифы и заблуждения

Метеорит взорвался над Турцией

Мечта Билла Гейтса. Суперяхта на водороде

Монах провел жутковатый ритуал от коронавируса

Нашествие саранчи на Индию

НЛО летал на низкой высоте над Западным Блумфилдом

Пес с аномально длинным носом

Пиктограмма на поле обнаружена на юге Англии

Причина аномальных пожаров в Австралии

Раненый пес пытался помочь погибшей хозяйке

Самые злые роботы кинематографа

Солнечные ветра превратили Марс в безжизненную глыбу

Суперионный лед может существовать на Венере

Щука рекордного размера погибла в Великобритании

Имплантация зубов. Поэтапное развитие событий

Астрономическая камера зафиксировала НЛО над Хьюстоном

Великобритания вводит Цифровой паспорт здоровья

Военные самолеты в сопровождении НЛО заметили над Александрией

Два НЛО совершили посадку в Колумбии

Древнее сокровище признали загадкой, которую не решить

Древняя китайская загадка

Есть ли заговор против электромобилей

Загадки природы, которые нам еще предстоит разгадать

Иранские ученые заинтересовались мегалитами в Подмосковье

Кaк мы будeм пoлучaть cигнaлы oт мeжзвeздныx зoндoв

Как передается колдовской дар

Конец нового мирового порядка

Коронавирус создал новые рабочие места для роботов

Массу ближайшей к Земле экзопланеты точно измерили

Может ли история с параллельной Вселенной быть ошибкой

Найден способ измерения сознания

НЛО замечен около Зоны 51

НЛО замечен у берегов Греции

Откуда взялись карты Таро

Посткоронавирусная футурология

Почему на изображениях iPhone всегда 9:42 или 9:41

Преданная собака месяцами ждала в больнице умершего хозяина

Предсказание по случайному числу

Притягивающие несчастье сувениры

Подписка на новости
Подписка на новостой RSS-канал сайта
Получать новости сайта по почте
Контактный адрес для любых сообщений
Наверх
Рейтинг@Mail.ru Яндекс.Метрика