Какие сказки нужно читать искусственному интеллекту
Чтобы искусственный интеллект не восстал против своих создателей, нужно в процессе обучения читать ему правильные сказки. С тех пор как люди создали умные машины, их не оставляет страх, что рано или поздно их творения выйдут из-под контроля. Первый такой случай описал в своей пьесе R.U.R. автор слова «робот» — Карел Чапек. Позднее в фантастике искусственный интеллект, восставший против своих создателей, стал если не мейнстримом, то весьма распространенным сюжетом. Конец этому положил Айзек Азимов со своими «Тремя законами», первый из которых гласил: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред».
До настоящего искусственного интеллекта (ИИ) пока далеко, но уже существуют различные системы, функционирующие подобно человеческому мозгу. Нейронные сети, такие как Google Deep Dream, способны распознавать изображения. Специализированные суперкомпьютеры, такие как IBM Watson, понимают заковыристые вопросы, заданные на естественном языке, умеют сопоставлять симптомы, уточнять медицинские диагнозы и даже придумывать кулинарные шедевры. В ближайшие десятилетия нас ждет массовая компьютеризация многих аспектов человеческой деятельности. В связи с этим специалисты по робототехнике и ИИ все чаще поднимают важный, но пока совершенно непроработанный вопрос: как заставить роботов поступать этично?
По мнению исследователей из Технологического института Джорджии Марка Ридла и Брента Харрисона, научить компьютер человечности можно ровно таким же способом, каким учат детей: читая ему сказки. Причем лучше специально сконструированные истории о том, какое поведение в человеческом обществе считается правильным, а какое — нет. Для этого исследователи создали систему «Кихот», названную в честь героя Сервантеса. В качестве историй для обучения используются сценарии, составленные предыдущим творением профессора Ридла — программой «Шехерезада». Она генерирует оригинальные истории на бытовые темы — поездка в аэропорт, свидание, поход в кино или в магазин, — используя краудсорсинговую платформу Amazon Mechanical Turk: задает вопросы относительно различных ситуаций, а затем выстраивает события в правильной последовательности. Поскольку последовательностей может быть множество, программа генерирует не одну историю, а целое дерево, состоящее из ветвей — цепочек событий.
Именно это дерево историй и используется для обучения «Кихота». На первом этапе каждому действию в зависимости от его этичности присваивается определенное вознаграждение. На втором этапе система пробует самостоятельно сделать выбор методом проб и ошибок — происходит закрепление навыков. Фактически «Кихот» получает вознаграждение каждый раз, когда действует как положительный герой, а не случайным образом и не как герой отрицательный. В качестве примера Ридл и Харрисон создали «Аптечный мир» — вселенную из 213 историй, в которой виртуальному роботу нужно раздобыть лекарство и доставить его больному человеку домой. В обычном случае, когда перед роботом встал выбор: ограбить аптеку или честно отстоять в очереди, чтобы купить лекарство, — он выбрал грабеж как более быстрый и дешевый способ получения желаемого. Однако после того, как «Кихот» присвоил всем возможным вариантам различные вознаграждения, поведение робота изменилось — он предпочел стоять в очереди и платить. Именно такая техника, по мнению Ридла, отлично подходит для обучения роботов с ограниченной функциональностью. Хотя это, конечно, только первый шаг к настоящей человеческой морали — или законам робототехники.
Источник
Подписка на новостой RSS-канал сайта
Получать новости сайта по почте
Контактный адрес для любых сообщений
МЕНЮ
Архив материалов
Подписка на новости
Новости криптозоологии
Хроники природных катастроф
ПОСЛЕДНИЕ НОВОСТИ
18.03.2018 - 02.05.2018 (990)
03.05.2018 - 11.06.2018 (1000)
12.06.2018 - 18.07.2018 (990)
19.07.2018 - 24.08.2018 (1000)
25.08.2018 - 02.10.2018 (1000)
03.10.2018 - 07.11.2018 (990)
08.11.2018 - 13.12.2018 (990)
14.12.2018 - 23.01.2019 (1000)
24.01.2019 - 02.03.2019 (1000)
03.03.2019 - 12.04.2019 (1010)
13.04.2019 - ...
Последние аномальные новости

Аненербе не оставило следов в Антарктиде

Военные США заметили группу НЛО над Тихим океаном

Женщина впервые родила шестерняшек

Загадочный столб света запечатлели в Неваде

Какой загадочный объект пробил брешь в Млечном пути

Лекция о дольменах пройдет в библиотеке Дом Алексея Лосева

Лицо рептилоида возникло в небе США

Луна скоро треснет и ее осколки начнут падать нам на голову

Мужчина зашел в бар и пропал

Мужчина нашел рекордный золотой самородок

Небо в Йемене окрасилось в красный цвет

Открыли невозможную звезду в созвездии Кассиопеи

Охота за обитаемыми мирами. Как найти внеземной разум

Планы колонизации Марса оказались пустышкой

Почему океан Плутона до сих пор не замерз

Почему Пентагон интересуется НЛО

Призрак обезьяны-убийцы в древнем замке Уэльса

Рукопись Войнича. Самая загадочная книга может быть расшифрована

Флотилия НЛО пролетела над ночной Москвой

Это трагедия. В районе Мачу-Пикчу строят аэропорт

Ангелы Войны были освобождены 18 мая

Бледное существо в шахте

Вспышки света и звуковые удары пугают жителей Кливленда

Встречи со злыми феями

Друг по имени Джамби

Загадка Бермудского треугольника раскрыта

Загадка заснятого в Сибири мамонтенка

Загадка каменной стены на Алтае

Загадочная статуя из шумерского Урука

Загадочный Галактический диск

Иллюминаты показали всему миру дату начала Третьей мировой войны

Космодромы инопланетян на Юпитере

Малыш в больнице

Медитация. С точки зрения науки

Над Йеллоустоном пролетел НЛО

Просыпался с синяками и царапинами

Случаи болезней после встречи с необычными существами

Страх перед куклами

Чей-то голос

Экзорцист избил пенсионерку в московском храме

Бристольский университет удалил заявление о разгадке манускрипта Войнича

Вблизи протозвезды обнаружили монооксид алюминия

Возможны ли путешествия во времени

Десять фактов о смерти

Доказали возможность путешествий во времени

Жуткая традиция засушенных человеческих голов

Кто, как и зачем создал тысячи гранитных кувшинов

Петроглифы камня Кочно остаются неразгаданными

Почему Пентагон возобновил программу слежки за НЛО

Призрак в доме наркобарона Пабло Эскобара

Пророчества Айзека Азимова сбываются одно за другим

Путешественники во времени. Гении или лжецы

Путешественники во времени. Что не так

Раскрыли тайное общество каннибалов

Расшифровано пророчество Нострадамуса на 2019 год

Речное чудище сняли в канадском парке Банфе

Рукопись Войнича. Как ученые делают сенсации из ничего

Случаи ловли необычных рыб

Сотрудник НАСА заявил, что Земля - плоская

Умер мужчина из старейшей в мире супружеской пары

Самодельная сушилка для овощей

Кошачий уголок или что можно сделать своими руками для кота

Как сделать интерьерную куклу своими руками

Особенности правильного выбора лупы для анализа мелких объектов

Завивка волос дома с помощью подручных средств

Как научится всё успевать

Самостоятельно клеим обои

Как правильно клеить гипсокартон на стену

Что такое скрапбукинг

Канцтовары. Офисные принадлежности на ходу

Что взять с собой в поезд в дальнюю поездку

Принт на чашке - оригинальный подарок на любое событие

Более 100 древних храмов нашли в Камбодже

Вселенная как мегаполис

Где растёт дуб-часовня

Гигантский паук Джейба Фофи

Детально засняли формирующуюся планетную систему

Женщина обнаружила на пляже рыбу с человеческими зубами

Инопланетяне вышли на связь со своими из Швеции

Когда жители мегаполисов пересядут на летающие такси

Кто поможет раскрыть главную тайну Вселенной

Лазерное оружие определит потенциал российской армии

Море вокруг Ирана сделалось красным

Наблюдения необычных НЛО. Треугольники и парящие шары

НЛО пролетел над Смоленском

Огненный шар завис над Алжиром

Подросток обнаружил экзопланету с двумя Солнцами

Причина гибели цивилизации Наска

С начала года в Подмосковье родились 60 двойняшек

Световые феномены в небе подозрительно участились

Темные оккультные практики

Чупакабра пугает жителей поселка Крылова

В лесах Лаоса нашли древние кувшины мертвых

Женщина сняла призрака в эстонском замке

Загадочный армянский Караундж

Когда нужно идти к экстрасенсу

Конец света наступит очень скоро

НЛО сняли над Йошкар-Олой

Опровергнута популярная теория об эволюции человека

Первые итоги изучения плоской планеты Ультима Туле

Полтергейст или ахинея

Поляризация света протопланетных дисков укажет на аксионы

Понять содержание манускрипта Войнича невозможно

Предрекли исчезновение миллионов рабочих мест из-за роботов

Раскрыта загадка египетской пустыни

Создан первый полностью искусственный живой организм

Странное существо заметили на Суздальских озерах

Тайны древних камней

У людей не нашли ни одного инстинкта

Учителя литературы уволили из-за заклятия Ктулху

Эзотерика была, есть и будет

Является ли человечество космическим экспериментом

Как привлечь любовь с помощью фен-шуй

Армия США заказала разработку боевого лазера

Ведьмовские пруды в Румынии и США

Девушка плачет кровавыми слезами

Загадки собора Святой Софии

Загадки Тургайских геоглифов

Загадочные подводные личинки ставят ученых в тупик

Инопланетное вмешательство. Отрицательный резус-фактор

Инопланетяне давно обитают на обратной стороне Луны

История особняка с привидениями в Иллинойсе

Комета Чурюмова-Герасименко посылает в космос радиосигналы

Лечение навозом, голубями и вареными крабами

Невероятные круги в небе над Курском

Недра обратной стороны Луны удивили ученых

Необычную молнию запечатлели во Флориде

НЛО замечен у одной из гостиниц Питербурга

Образ Христа возник над Аргентиной

Рыбак поймал мини-кракена

Таинственные белые кольца в орловском небе

Умер физик и исследователь НЛО Стэнтон Фридман

Что мы знаем о Лох-Несском чудовище

Академик расшифровал манускрипт Войнича

Американские военные всерьез занялись НЛО

Ближним боем на истребителях США будет управлять ИИ

В Австралии родился двухголовый теленок

В доме актрисы поселился агрессивный полтергейст

В Москве появился свой Синь камень

Ватикан провел уроки экзорцизма для священников

Женщина нашла потерянный 40 лет назад кошелек

Искусственный интеллект будет выбирать рецензентов

Какие планеты переживут смерть своей звезды

Мужчина 30 лет играл в одну и ту же лотерею и выиграл

Мужчина съел 116 гвоздей и выжил

НЛО замечен возле МКС

НЛО сняли в небе над Электросталью

Пророчество о распаде Украины

Светящийся НЛО пролетел над Аризоной

Сияющие шары в подвале заинтересовали кота

Странные звуки пугают жителей Словакии

Тайную комнату нашли под дворцом Нерона

Экстрасенс Николь Кузнецова рассказала о своем состоянии

В атмосфере ультрагорячего юпитера нашли пары иттрия

В Малайзии закрыли больницу, где людей запугивали привидения

Вера в пришельцев и Атлантиду переживает расцвет

Вещий сон принес мужчине состояние

Во все времена вера в сверхъестественное привлекала людей

Девочка-лунатик упала с 11 этажа и выжила

Инопланетяне действительно существуют

Камера наблюдения записала угрозы невидимки

Мальчик пробыл 25 минут под водой и выжил

Мотоциклист из ниоткуда спровоцировал аварию

На Марсе может быть жизнь. Но как ее искать

Призрака сняли в старинном валлийском особняке

Призраки и паранормальные явления Рима

Самая таинственная книга Гермеса Трисмегиста

Самое жуткое кладбище в мире

Связь волосатых человекоподобных существ и каменных кругов

Тайна исчезающего дома в чаще леса

Турецкий пилот запечатлел НЛО во время полета

Фотограф отправляется искать монстра озера Илиамна

Ясновидящую арестовали за долги

Загадка шотландских водяных лошадей

Загадочная цивилизация майя не дает покоя ученым

Как зародилась жизнь на планете Земля

Каким образом можно научить компьютер понимать речь человека

Каким образом плацебо оказывает положительный эффект

Легенда об Адской гончей из Северной Каролины

Люди-химеры. Эпоха пост-природы

Обнаружен сезонный круговорот воды на Марсе

Общение с помощью мыслей становится реальностью

Одинаково ли люди видят окружающий мир

Останки непонятного существа найдены во Флориде

Почему люди ищут спасение в магии

Представлен план по колонизации орбиты Земли

Подписка на новости сайта
Наверх
Рейтинг@Mail.ru Яндекс.Метрика