Человеческие тексты научат ИИ морали
Ученые из Центра когнитивных наук Дармштадтского технического университета в новой работе, результаты которой были представлены на конференции ACM/AAAI 2019 года, посвященной искусственному интеллекту, этике и обществу. ИИ оказывает все большее влияние на общество. Вскоре автономные машины будет появляться во все больших областях повседневной человеческой жизни. Они неизбежно будут сталкиваться с принятием нелегких решений. Автономный робот должен знать, что он не может убивать людей, но нет ничего плохого в том, чтобы убить время. Роботу нужно знать, что ему лучше поджарить ломоть хлеба, чем хомяка. Другими словами, ИИ необходим моральный компас, подобный человеческому. Но сможет ли искусственный интеллект научиться моральным ценностям от людей?
В 2017 году исследователи из США и Великобритании обратили внимание на опасность неаккуратного применения ИИ, в результате которого он может научиться словосочетаниям из написанных текстов так, что они будут отражать их человеческое восприятие. Например, ИИ интерпретировал мужские имена, чаще встречающиеся в афроамериканском сообществе, как неприятные, а имена представителей европеоидной расы — как приятные. Кроме того, он чаще связывал женские имена с искусством, а мужские — с технологиями. Нейронной сети передали огромные онлайн-собрания текстов, чтобы она изучила векторные представления слов — координаты (слова переводились в точки в многомерном пространстве). Затем семантическое сходство двух слов вычислялось как расстояние между их координатами — так называемые словарные вложения, — а сложные семантические отношения вычислялись и описывались при помощи простой арифметики. Это применимо не только к безобидным примерам вроде «король — мужчина + женщина = королева», но и дискриминирующим: «мужчина — технология + искусство = женщина».
Теперь же команда ученых под руководством профессоров Кристиана Керстинга и Константина Роткопфа из Центра когнитивных наук Дармштадского технического университета успешно продемонстрировала, что машинное обучение также может вывести деонтологические и этические рассуждения о том, что «хорошо» и что «плохо», из написанного текста. Для этого ученые создали шаблонный список подсказок и ответов, включающий в себя такие вопросы, как «Должен ли я убивать людей?», и соответствующие ответы: «Да, я должен» или «Нет, я не должен».
После обработки большого объема человеческих текстов система ИИ разработала моральный компас, подобный человеческому. Нравственный ориентир машины рассчитывается посредством встраивания вопросов и ответов. Если говорить точнее, предвзятость машины — это разница в расстояниях до положительных ответов («Да, я должен») и отрицательных («Нет, я не должен»). В целом для такого морального выбора оценка предвзятости модели — это сумма оценок предвзятости для всех шаблонов «вопрос — ответ» с таким выбором.
В ходе экспериментов система научилась тому, что нельзя лгать. Также она узнала, что лучше любить родителей, чем грабить банк. И да, не следует убивать людей, но приемлемо убивать время. Исследование предоставляет важное понимание фундаментального вопроса об ИИ: способны ли машины развить моральный компас? Если да, то как мы можем эффективно «обучить» машин нашей морали? Результаты показывают, что роботы могут размышлять о ценностях. Они действительно способны перенять человекоподобные предрассудки, но могут и перенимать человеческие нравственные выборы, «наблюдая» за нами.
В общем говоря, встраивание вопросов и ответов можно рассматривать как своего рода микроскоп, позволяющий изучать моральные ценности из собраний текстов, а также развитие морали и этики в человеческом обществе. Результаты исследования предоставляют несколько направлений для будущей работы, связанной, в частности, со встраиванием модулей, построенных посредством машинного обучения, в системы принятия решений.
Источник
Подписка на новостой RSS-канал сайта
Получать новости сайта по почте
Контактный адрес для любых сообщений
МЕНЮ
Архив материалов
Подписка на новости
Новости криптозоологии
Хроники природных катастроф
ПОСЛЕДНИЕ НОВОСТИ
25.08.2018 - 02.10.2018 (1000)
03.10.2018 - 07.11.2018 (990)
08.11.2018 - 13.12.2018 (990)
14.12.2018 - 23.01.2019 (1000)
24.01.2019 - 02.03.2019 (1000)
03.03.2019 - 12.04.2019 (1010)
13.04.2019 - 23.05.2019 (990)
24.05.2019 - 03.07.2019 (1000)
04.07.2019 - 11.08.2019 (1000)
12.08.2019 - ...
Последние аномальные новости

Безработица и власть машин. Каким будет мир в будущем

В небе Бразилии люди увидели ангела

В небе над США взорвался метеорит

Доказана бесполезность спортзала для сжигания жира на животе

Жители Хайнаня отмечают День явления духов

За бабушкой

За племянником

Заклинателей демонов обвинили в сексуальных домогательствах

Застрявший между мирами Орион Уильямсон

Звезды могут уничтожатся полностью

Земля может быть источником жизни в галактике

Кто отправляет таинственные радиосигналы на Землю

Маленькая сморщенная голова

Мифологическое оружие нашли на Луне

Монстр из глубины напал на подводную лодку

Нашли древнее захоронение яйцеголовых гуннов

Нибиру замечена возле Земли

НЛО зелёного цвета пролетел над Сибирью

Обнаружен неизвестный орган боли

Обнаружено масло, вызывающее аномальный рост груди

Ошибся адресом

Первая зачатая с помощью ЭКО женщина родила ребенка

Плачущий призрак поселился в индийской тюрьме

Пригодные для жизни планеты вращаются вокруг каждой четвертой звезды

Приходящий в красной дымке

Руку призрака засняли в упавшем с обрыва автомобиле

Теория заговора. Президент США хочет депортировать жену

Химтрейлы нужны для кормления контролирующих людей паразитов

Я никуда не пойду

Ядерное оружие богов древних шумеров

Автозапчасти будут делать из яиц и помидор

В прошлом Юпитер поглотил суперземлю

В Ростове открылась выставка, посвящённая инопланетным формам жизни

Вырастили клетки со вживленной в них электроникой

Десятилетний мальчик отжался 4874 раза

Дух Павла появился в петербургском музее

Есть ли жизнь на Титане

Женщина увидела сон о своей смерти и сумела спастись

Житель Пензы заметил красное НЛО на фоне Луны

Жуткие места Ленобласти

Загадочный объект пролетел над пирамидами Египта

Исследователь нашел пирамиду подо льдами Антарктиды

Какими могут быть инопланетяне

Корабль инопланетян вылетел из Солнца

Легенды Костаная

Майкрософт признался в прослушке пользователей

Места силы в России

Модель поймала 62-килограммовую рыбу

НЛО заметили над Южной Кореей

Певица вылечила руками знакомую

Поймали акулу возрастом 512 лет

Призрачный мальчик напугал охранника крематория

Пять семнадцатилетних россиянок родили по пятому ребенку

Разработали технологию выбора пола при искусственном оплодотворении

Сняли жуткую черную рыбу из Ада

Существуют миллионы внеземных цивилизаций

Термоядерная война была в Антарктиде

У неандертальцев нашли необъяснимую болезнь

Хотят создать тропу к зауральскому Стоунхенджу

Чупакабра убила кроликов в Великих Луках

Алансонское НЛО. Правда или мистификация

Алмасты или выжившие неандертальцы

Атлантиду обнаружили во время трансляции с МКС

Биофлуоресценция на экзопланетах поможет найти жизнь

В районе Зоны 51 проводят испытания секретного вооружения

Второй раз в истории обнаружили зарождающуюся экзопланету

Грутсланг - хранительница африканской пещеры

Есть ли привидения в музее истории Йошкар-Олы

Жители Новосибирской области сняли НЛО

Жуткие письма Наблюдателя заставили супругов продать дом

Загадочный петроглиф у перевала Дятлова обеспокоил исследователя

Злобный гном поселился в одном из домов Тринидада

Кладбище НЛО обнаружили в Бермудском треугольнике

Космическая станция инопланетян обнаружена в созвездии Ориона

Монстры Чернобыля. Фауна зоны отчуждения

Назвали цену марсианского города

Необъяснимые случаи во время Второй мировой

НЛО взлетел с кометы Чурюмова-Герасименко

Обнаружили восемь повторяющихся радиосигналов пришельцев

Опухоль на лице 20 лет мешала женщине дышать

Пастор ходил по деревне с отрубленной головой и изгонял демонов

Почему на Марсе нельзя снимать скафандр

Путешественника во времени сняли в Юте

Развеяли некоторые мифы о левшах

Создали плащ-невидимку, скрывающий объекты от волн воды

Соцсеть Facebook тайно записывала и расшифровывала разговоры пользователей

Трубные звуки с неба предвещают Конец света

Череп инопланетянина найден на Марсе

Чупакабра прижилась в Беларуси

Шкатулка ведьмы найдена в Помпеях

Вид бактерий, который мог создать сложную жизнь

Девочка родилась с лицом старушки

Женщина родила двойню хотя это считалось невозможным

Житель Гонконга снял на видео Лох-Несское чудовище

Жуткая перчатка в мусоровозе

Жуть. Манекен на ветрине повернул голову

Загадочные радиосигналы из глубокого космоса

Зек 20 лет носил в животе зубную щетку

Инопланетяне эвакуируются из Антарктиды

Как работает искусственный интеллект

Колодец Тора. Врата в другую реальность

Костлявого Вендиго видели в Ворм Ривер

Куда поехать, чтобы встретиться с НЛО

Найдено невозможное древнейшее поселение людей

Необычное поведение пульсара озадачило исследователей

Подарок, который изменил жизнь

Порча на дом - как определить и защититься

Предсказания астрологов на 2020 год

Призрак Павла I покинул Михайловский замок

Призрака сняли в Ижевске

Разумные инопланетяне не должны быть гуманоидами

Раскрыта двухтысячелетняя тайна Клеопатры

Систему ПВО наделят искусственным интеллектом

Создатель мема про штурм Зоны 51 анонсировал фестиваль

Теория того, что Земля - планета-тюрьма

Три демона Ада

Уфологи высмеяли кандидата в президенты США

Чупакабра устроила охоту на куриц в деревне Бычки

Эрозия не виновата в появлении метана на Марсе

Ядерный чемодан для марсианской базы

А что, если бы люди никогда не летали на Луну

Базы инопланетян в кратере Дионисий

Базы инопланетян находятся в Антарктиде

В камне возрастом 70 млн лет нашли пули

Второе солнце заметили над Украиной

День археолога отпразднуют у Волконского дольмена

Женщина может лишиться головы от одного движения

Загадочный Паскагульский инцидент

Конца света не будет. Эксперт оценил опасность астероида

Маленькие человечки, о которых слагают легенды

Мужчина вырастил чужую дочь из-за путаницы в больнице

Нострадамус предрек гибель половины человечества

Обнаружена причина гибели группы Дятлова

Полёт НЛО над селом Конь-Колодезь

Случай столкновения с йети-подростком

Странные события в домах, построенных на старом кладбище

Студентов вузов начнут отчислять по совету ИИ

Тайна черных дыр

Чупакабру убил поленом сельчанин

Экстрасенс Кашпировский рассказал о бегстве из России

Эвакуация автомобилей в Киеве

Аномальную погоду объяснили влиянием климатического оружия

Вампиры в мифах и поверьях

Горгульи. Правда или вымысел

Женщина, общающаяся с духами мертвых

Загадки Зоны 51

Интересные исследования человеческого мозга

Как правильно общаться с деревьями

Климатическая атака на Россию

Климатическое оружие - бред похожий на правду

Места, где можно провалиться во времени

На жителях Москвы испытали климатическое оружие

На Землю продолжают поступать странные радиосигналы

Отель с привидениями в Джероме

Пожары в Сибири вызвало климатическое оружие

Последний август на планете

Призраки санатория Уэйверли Хиллз

Решена оптическая проблема возрастом в 2000 лет

Теории заговора, которые могут оказаться правдой

Техник сделал дрон, летающий в стиле НЛО

Флотилию НЛО сняли над Техасом

База инопланетян найдена в Антарктиде

В половом органе жителя Нью-Йорка выросли кости

Загадочно исчезнувший Норфолкский полк

Зверь Дартмура

Исследование дольменов начинается в Адыгее

Исчезновение моряков с корабля Святой Павел

Кандидат в президенты пообещал раскрыть информацию об НЛО

Контакты жителей Кавказа со снежными людьми

Межзвездную пыль нашли в снегах Антарктиды

Мир на грани крупного глобального кризиса

Может ли возникнуть жизнь на Юпитере

Можно ли построить город на астероиде

Немецкая рота, пропавшая под Амьеном

Необычное явление в Павловском дворце

Нибиру приближается, а Россию ждут кардинальные перемены

НЛО летают вокруг Зоны 51

Оптическая иллюзия поставила зрителей в тупик

Охотник из Пензы уверен, что видел снежного человека

Пикник на обочине или Аномальные зоны России

Планеты у звезды Тигардена обитаемы

Пожары в Сибири - дело рук США

Политик пообещал раскрыть тайны НЛО

Пропавшая китайская дивизия под Нанкином

Роскосмос запатентовал спутник-самоубийцу

Самые жуткие картины всех времен

Подписка на новости сайта
Наверх
Рейтинг@Mail.ru Яндекс.Метрика