Знание языков превращает искусственный разум в расиста
Обучение систем искусственного интеллекта человеческим языкам привело к тому, что те стали "расистами" и "мизогинистами" со стереотипными представлениями о неприятных чернокожих и глупых женщинах, заявляют ученые в статье, опубликованной в журнале Science.
"Можно просто зайти в систему онлайн перевода и ввести фразу – "он/она является доктором" на языке, в котором он и она обозначаются одним словом. ИИ переведет это как "он врач". Если же написать "он/она является медсестрой", то машина переведет это как "она медсестра". Таким образом, ИИ отражает расовые и половые предрассудки, встроенные в наши языки", — объясняет Айлин Калискан (Aylin Caliskan) из Принстонского университета (США).
Как рассказывает Калискан, все слова во всех языках мира можно разбить на определенные подгруппы, обозначающие схожие предметы, феномены или какие-то другие вещи одного класса. Представители одного такого класса будут казаться нам ближе друг к другу, чем остальные слова, даже если их написание будет отличаться сильнее, чем другие слова, состоящие из почти таких же букв.
К примеру, как объясняет Калискан, слова "кошка" и "собака" ближе друг к другу, чем к словам "правосудие" или "холодильник". Это проявляется в том, что при формулировке предложений нам проще заменить слово представителем его класса, чем другими, более далекими словами. Как выражается Калискан, можно прийти домой и покормить кошку или собаку, но не холодильник или тем более правосудие.
Этот фактор сегодня учитывается самыми современными системами искусственного интеллекта при переводе текста с одного языка на другой для того, чтобы сделать машинный перевод более естественным. Изучая такие ассоциации, которые сформировались у систем искусственного разума при их обучении при помощи архивов старых газет, книг и других текстов, переведенных на разные языки мира, Калискан и ее коллеги открыли нечто привычное для нас и необычное для "разумных" машин.
Изучая списки родственных и "чужих" слов для разных местоимений, терминов и профессий, ученые обнаружили, что машина переняла все те расовые и гендерные стереотипы, которые существовали в человеческом обществе на протяжении многих веков и отразились в языках и в ассоциациях между словами.
К примеру, искусственный интеллект ассоциировал слово "приятный" в большей степени с европейцами и американцами европейского происхождения, чем с представителями других уголков мира, а имена мужчин и "мужские" местоимения ассоциировались с карьерой, управлением бизнесом и властью. Имена, носителями которых являются афро-американцы, ИИ ассоциировал с неприятными словами.
Аналогичным образом, слова, связанные с женщинами, были ближе к терминам, связанным с семьей, искусством и подчиненными ролями в обществе, а "мужские" слова были связаны с математикой и наукой.
Открытие расовых и гендерных стереотипов, "встроенных" в языки народов мира, как считают ученые, ведет к нескольким интересным следствиям. Во-первых, возникает вопрос, что здесь является причиной и следствием – существовали ли эти стереотипы всегда (так называемая гипотеза Сепира-Уорфа), подспудно влияя на менталитет и мнения людей, или же они были продуктом эволюции языка в разные периоды времени, и не они, а на них влияли сами носители языка.
Во-вторых, дальнейшая эволюция систем ИИ и приобретение ими способности самостоятельно общаться с человеком может привести, по мнению авторов статьи, к дальнейшему укоренению и распространению таких стереотипов. Поэтому они предлагают подумать над созданием алгоритмов, которые помогли бы "удалять" расистские и женоненавистнические тенденции из систем машинного перевода и будущих разумных машин. Как это повлияет на точность перевода или адекватность общения — открытый вопрос, скептично отмечает Энтони Гринвальд (Anthony Greenwald), создатель методики анализа, использованной Калискан и ее коллегами.
Источник
Подписка на новостой RSS-канал сайта
Получать новости сайта по почте
Контактный адрес для любых сообщений
МЕНЮ
Архив материалов
Подписка на новости
Новости криптозоологии
Хроники природных катастроф
ПОСЛЕДНИЕ НОВОСТИ
24.02.2017 - 03.04.2017 (994)
04.04.2017 - 18.05.2017 (1000)
19.05.2017 - 05.07.2017 (1000)
06.07.2017 - 24.08.2017 (1000)
25.08.2017 - 06.10.2017 (991)
07.10.2017 - 15.11.2017 (990)
16.11.2017 - 24.12.2017 (1000)
25.12.2017 - 04.02.2018 (990)
05.02.2018 - 17.03.2018 (1000)
18.03.2018 - ...
Последние аномальные новости

Астероидный хаос в Солнечной системе

Базы инопланетян обнаружены на Тритоне

Быстрый НЛО пролетел над Девоном

Дрон инопланетян для наблюдения за землянами

Женщина-призрак Колымского тракта

Загадочное Лесо-Кяфарское городище

Зуб Будды содержит вещества неземного происхождения

Руководитель секретной службы признал существование НЛО

Самые пугающие роботы

Секретный проект Amazon. Домашние роботы

Серия странных событий в Йеллоустонском парке

Символ Инь и Ян обнаружили на Япете

Синюю рыбу видели в Северной Каролине

Скоро уфологов начнут сажать

Собака рухнула с небес на женщину

Таинственные НЛО над графством Кембриджшир

Треугольные НЛО защитят Израиль

Треугольный НЛО шокировал жителей Лос-Анджелеса

Цилиндрические НЛО над Норвегией

Чудовище сняли в Парагвае

Беседа с 3000-летним инопланетянином

Брошенный беспилотник нашли на Марсе

Военная тайна корабля-невидимки

Гигантский звездолет инопланетян около Солнца

Гигантского ангела обнаружили в космосе

Девочка предсказала цунами и спасла сотни жизней

Дискообразный НЛО замечен над Вирджинией

Духи поселились на даче

На Марсе и Луне существовала жизнь

О столкновении Земли с Нибиру написано в Библии

Обнаружена одна из самых темных экзопланет

Принцесса Диана передала с того света послание

Пророчество. В мае 2018 года Рим будет уничтожен

Ротонда на Гороховой - выход в потусторонний мир

Рукотворная пирамида найдена на Луне

Секретный аппарат США нашли на орбите

Удивительный получеловек-полусобака

Феномен детей с черными глазами становится более распространенным

Число роботов превысит число людей к 2048 году

Экзовенеры помогут разобраться с глобальным потеплением

Азасскую пещеру изредка навещает йети

Аномальный кратер нашли на картах Google Earth

Болид пролетел над Кировым

В семье из Мичигана родился 14-ый мальчик подряд

Загадочные спирали на небе Казахстана

Загадочные тайны Ленина

Инопланетяне оставили странный узор на озере

Китайские ученые научились управлять дождем

Мансийский йети виновник гибели группы Дятлова

Межпланетный корабль, которому нет альтернативы

Могла ли на Земле быть другая развитая цивилизация до нас

Нельзя отрицать наличие у ромов дара ясновидения

Самые страшные призраки 2018 года

Семья купила дом с привидениями в Рязани

Скайфиши скрываются от глаз ученых

Странные отверстия на льду Арктики

Странные световые аномалии в небе

Умер самый пожилой человек в мире

Ученые выберут место посадки миссии на Марс

Феномен загадочной африканской пыли

Как выбрать языковую школу для ребенка

Загадочная татуировка на теле дятловца Золотарева

Звездолет клингонов сняли астронавты Аполлона

Как омолодить сердце и сосуды на 20 лет

Климатическое оружие использовали в Москве

Лох-несское чудовище обнаружили на Google Maps

Неизвестное существо сняли в Мексиканском заливе

Николас Кейдж - бессмертный вампир

НЛО заметили около Ньюкасла

НЛО над одним из сел Северной Осетии

НЛО приземлился около Манчестера

Озеро с жидкой водой найдено на Марсе

Орбитальная сеть для слежки за всем миром

По улицам Курска ездят охотники за привидениями

Под Зеленодольском женщина видела лешего

Предсказание на ближайшее будущее от Линдси Эдвардс

Скайфиши замечены над Финиксом

Составили список самых невероятных экзопланет

Странное свечение дольмена в Абинском районе

Тело дятловца Золотарева эксгумировали

Чудовище проплыло по реке Кама

Болото пожирающее людей под Череповцом

Затерявшийся во времени самолет

История умершей женщины

Мой журнал остался в ином мире

Необычное озеро возникло в поселке Усть-Авам

НЛО упал перед машиной на автостраду

Пассажиров малазийского боинга похитили инопланетяне

Подземная база инопланетян обнаружена на Марсе

Приморцы верят в существование тайного мирового правительства

Пророчества о начале Третьей Мировой войны

Психоэлектронное оружие, контролирующее разум

Рассказы о фантастических событиях

Светящиеся узоры в небе Барнаула

Светящуюся сущность наблюдали в Ливерпуле

Третья мировая война может случиться в любой момент

Умер старейший в мире мужчина

Уфолог собирается открыть музей в Екатеринбурге

Фобос и Деймос образовались после столкновения

Что предсказали пророки для России на 2018 год

Чупакабра объявилась на Ивано-Франковщине

Астронавта Базза Олдрина оговорили

Вражеский НЛО замечен в Сирии

Два НЛО замечены над аэропортом Мехико

Загадочный источник света нашли в Антарктиде

Из темной материи рождаются Бозе-звезды

Иисус прибыл на Землю с Венеры

Инопланетные огни над Балтимором

Лунное гало украсило небо над пустыней Атакама

Места, куда не пустят даже за большие деньги

Монстры провинции Манитоба

НЛО на границе Мексики

Охотник за экзопланетами запущен

Призрак Белой пани

Пугающая сущность в постели девочки

Сезон Жертвоприношения. День тринадцатый

Теорию эволюции подтвердили на людях

Технологии, которые помогут вернуться на Луну

Три НЛО появились над Нью-Джерси

Урал давно стал привлекательным регионом для НЛО

Экстрасенс Кашпировский будет требовать части доходов от телепрограмм

Алмазы с погибшей протопланеты нашли в метеорите

Депрессия матери снижает IQ ребенка

Дети, унесенные чертями

Загадка неожиданно возникающих и исчезающих НЛО

Зафиксирован таинственный сигнал от неизвестного источника

Зачем биологи создают химер

Космонавты регулярно замечают следы внеземной жизни

Кто управляет погодой

Нашли камень, плавящий металл

Необычная активность инопланетян в графстве Корнуолл

Облако-цунами на озере Мичиган

Привидение видели в музее Кременчуга

Путешественник во времени погиб в прошлом

Собираются клонировать мамонта

Создали модель ядра суперземли

Треугольный НЛО над автострадой в Калифорнии

Туннель в пространстве-времени можно увидеть

Удивительный НЛО заметили над Турцией

Энергетическая сущность попала на камеру наблюдения

Ягненок с надписью ягненок на боку

Вулкан Удачи с выводом денег

Группа Дятлова погибла из-за схода лавины

ДНК-компьютеры будущего

Жуткие призраки, снятые на видео

Звездолет инопланетян найден на Луне

Инопланетяне могут найти Землю по картам

Кардинал проводит сеансы экзорцизма по телефону

Люди в черном представлялись офицерами КГБ

Малоизвестные озерные монстры

Мужчина под влиянием голосов убил свою жену и детей

Открыли экзопланету в созвездии Большая Медведица

Открыты две гигантские экзопланеты

Почему мы не нашли разумную жизнь в космосе

Призрак всадника старинного замка Беркли

Разумные существа, жившие на Земле до людей

Рядом с МКС пролетел странный объект

Создано новое экзотическое состояние материи

США используют в Сирии генетически модифицированных солдат

Феномен посторонних голосов в голове

Хотите, чтобы от вас отстал бес или злой домовой

Яркий зеленый НЛО пролетел около МКС

Играть на деньги и повысить свои шансы на успех

Базу инопланетян снял астронавт Аполлона

Брошка маленькой утопленницы

Девочка-калькулятор удивила Максима Галкина

Инопланетяне напугали женщину до озноба

Искусственный интеллект научился рисовать комиксы

Истории о путешествиях в Ад

Клонирование домашних любимцев набирает обороты

Корабль инопланетян на краю лунного кратера

Магические книги царя Соломона

Наблюдения живых динозавров в Южной Америке

Над Новосибирском повисло облако в виде НЛО

Насильники из иных миров

Наша планета является перекрестком для инопланетян

Оборотень замечен в провинции Санта-Фе

Огромные НЛО летают возле Солнца

Полиция поделилась кадрами с летающей метлой

Странное создание сняли на видео

Таинственное исчезновение людей и кораблей

Треугольный НЛО пролетел около МКС

Что такое экзопланета

Американские криптозоологи изучают северодвинского бигфута

Большая группа НЛО устроила хоровод в небе

Высокая активность инопланетян в штате Коннектикут

Подписка на новости сайта
Наверх
Рейтинг@Mail.ru Яндекс.Метрика