Знание языков превращает искусственный разум в расиста
Обучение систем искусственного интеллекта человеческим языкам привело к тому, что те стали "расистами" и "мизогинистами" со стереотипными представлениями о неприятных чернокожих и глупых женщинах, заявляют ученые в статье, опубликованной в журнале Science.
"Можно просто зайти в систему онлайн перевода и ввести фразу – "он/она является доктором" на языке, в котором он и она обозначаются одним словом. ИИ переведет это как "он врач". Если же написать "он/она является медсестрой", то машина переведет это как "она медсестра". Таким образом, ИИ отражает расовые и половые предрассудки, встроенные в наши языки", — объясняет Айлин Калискан (Aylin Caliskan) из Принстонского университета (США).
Как рассказывает Калискан, все слова во всех языках мира можно разбить на определенные подгруппы, обозначающие схожие предметы, феномены или какие-то другие вещи одного класса. Представители одного такого класса будут казаться нам ближе друг к другу, чем остальные слова, даже если их написание будет отличаться сильнее, чем другие слова, состоящие из почти таких же букв.
К примеру, как объясняет Калискан, слова "кошка" и "собака" ближе друг к другу, чем к словам "правосудие" или "холодильник". Это проявляется в том, что при формулировке предложений нам проще заменить слово представителем его класса, чем другими, более далекими словами. Как выражается Калискан, можно прийти домой и покормить кошку или собаку, но не холодильник или тем более правосудие.
Этот фактор сегодня учитывается самыми современными системами искусственного интеллекта при переводе текста с одного языка на другой для того, чтобы сделать машинный перевод более естественным. Изучая такие ассоциации, которые сформировались у систем искусственного разума при их обучении при помощи архивов старых газет, книг и других текстов, переведенных на разные языки мира, Калискан и ее коллеги открыли нечто привычное для нас и необычное для "разумных" машин.
Изучая списки родственных и "чужих" слов для разных местоимений, терминов и профессий, ученые обнаружили, что машина переняла все те расовые и гендерные стереотипы, которые существовали в человеческом обществе на протяжении многих веков и отразились в языках и в ассоциациях между словами.
К примеру, искусственный интеллект ассоциировал слово "приятный" в большей степени с европейцами и американцами европейского происхождения, чем с представителями других уголков мира, а имена мужчин и "мужские" местоимения ассоциировались с карьерой, управлением бизнесом и властью. Имена, носителями которых являются афро-американцы, ИИ ассоциировал с неприятными словами.
Аналогичным образом, слова, связанные с женщинами, были ближе к терминам, связанным с семьей, искусством и подчиненными ролями в обществе, а "мужские" слова были связаны с математикой и наукой.
Открытие расовых и гендерных стереотипов, "встроенных" в языки народов мира, как считают ученые, ведет к нескольким интересным следствиям. Во-первых, возникает вопрос, что здесь является причиной и следствием – существовали ли эти стереотипы всегда (так называемая гипотеза Сепира-Уорфа), подспудно влияя на менталитет и мнения людей, или же они были продуктом эволюции языка в разные периоды времени, и не они, а на них влияли сами носители языка.
Во-вторых, дальнейшая эволюция систем ИИ и приобретение ими способности самостоятельно общаться с человеком может привести, по мнению авторов статьи, к дальнейшему укоренению и распространению таких стереотипов. Поэтому они предлагают подумать над созданием алгоритмов, которые помогли бы "удалять" расистские и женоненавистнические тенденции из систем машинного перевода и будущих разумных машин. Как это повлияет на точность перевода или адекватность общения — открытый вопрос, скептично отмечает Энтони Гринвальд (Anthony Greenwald), создатель методики анализа, использованной Калискан и ее коллегами.
Источник
Подписка на новостой RSS-канал сайта
Получать новости сайта по почте
Контактный адрес для любых сообщений
МЕНЮ
Архив материалов
Подписка на новости
Новости криптозоологии
Хроники природных катастроф
ПОСЛЕДНИЕ НОВОСТИ
17.04.2016 - 19.05.2016 (999)
20.05.2016 - 22.06.2016 (993)
23.06.2016 - 01.08.2016 (995)
02.08.2016 - 12.09.2016 (990)
13.09.2016 - 25.10.2016 (989)
26.10.2016 - 05.12.2016 (995)
06.12.2016 - 15.01.2017 (995)
16.01.2017 - 23.02.2017 (990)
24.02.2017 - 03.04.2017 (994)
04.04.2017 - ...
Последние аномальные новости

Вход в подводную базу инопланетян

Дискообразный НЛО над Девоном

Загадка мегалитов реки Ус

Зачем нам Альфа Центавра, если можно полететь к Сириусу

Искусственный интеллект научился подделывать человеческие голоса

Как умирают планеты

Лазер из Звездных войн создан в реальности

Может ли на самом деле существовать Человек-бык

Нашли снежно-ледяную Землю

Небывалый всплеск активности НЛО в 1967 году

НЛО пролетел на фоне полицейских

Образ Иисуса Христа появился в небе Колумбии

Пассажир самолета снял НЛО

Прямоугольная база инопланетян на Луне

Следы древних цивилизаций в Солнечной системе

Сфера стреляет лазерами на Марсе

Тайны и загадки древней Сирии

Человечество стоит на пороге открытия внеземной жизни

Череп инсектоида найден на Марсе

Чудовище якутского озера Хайыр

Встреча с инопланетянами в лесу Нью-Гемпшира

Два НЛО в небе над Кузнецком

Девушка сняла призрак бабушки

Загадка уникального пульсара

Искусственный разум вычислил сильнейшего шахматиста

Куклу вуду обнаружили на кладбище в Балаково

Нашли древние каменные изваяния грифона и дракона

Огненные врата ада открылись в дереве

Переход от веры в бессмертие к науке о бессмертии

Полтергейста вызовут в екатеринбургском музее

Предложили с помощью астероида создать озеро на Марсе

Предсказание Матроны Московской на 2017 год

Претендент на роль предков людей будет изгнан

Самолет-НЛО Николы Теслы

Следы древних цивилизаций надо искать на Луне или Марсе

Случайно создали материю времен Большого взрыва

Тайна Кровавого водопада в Антарктиде

Фаэтон погиб из-за ядерной войны

Что Нострадамус на самом деле предсказал России

Экзопланеты. Будущие дома человечества

Андроид провалила первое интервью

Афонский старец пообещал миру страшные годы

В письменности инков зашифрованы не только цифры

Вторжение инопланетян начнется через несколько месяцев

Гейзеры Энцелада

Грибы являются древнейшими существами на Земле

Многоэтажные океаны Ганимеда

Моря Титана

Начинается миссия по поиску жизни на Европе

НЛО замечен в Порто Миджано

Океан с антифризом на Тритоне

Океан сатурнианской Звезды Смерти

Океаны Европы

Океаны на Хароне и Плутоне

Плоский НЛО парил над Техасом

Самолет-призрак приземлился в Венесуэле

Собака читает мысли человека

Художник создает макеты экзопланет

Шокирующие находки археологов, которые оказались подделкой

Якима - Мекка НЛО

Аномальная зона Петракова лядина

Геоглифы Тургая предстают миру на разных языках

Дар ясновидения Ренаты Литвиновой

Дети свидетельствуют о похищениях НЛО

Дольмены Вербной балки

Дом с призраками на Комсомольской

Загадочная жидкость с отрицательной массой

Загадочные знаки раскрывают магическую историю Австралии

Королева предупреждает о начале Третьей мировой войны

Кто включил таймер Конца света

НЛО над городом Сан-Карлос

НЛО парил рядом со статуей Свободы

НЛО пролетел над Сантьяго

Охотники за сокровищами обнаружили капсулу времени

Пиктограмма появилась на поле Эйвбери

Разрабатывают технологию для получения воды как в Звездных войнах

Разрабатывают чудо-таблетку от ожирения

Смещение ядра Земли уничтожит человечество

Целебная криница в Дмитриевском

Чудотворный крест в Красногвардейском районе

В Вулкане предпочитают играть все

Бессмертие существует на самом деле

Ванга предсказала смерть Трампа и Третью Мировую

Восстание машин отменяется

Вселенную мог создать только Бог

Маленький НЛО над Джорджией

Мальчика похитили дяди в серебряных скафандрах

Мистические тайны революции

На границе России с Казахстаном был замечен НЛО

На перевале Дятлова селфи делать опасно

Наиболее жизнепригодные экзопланеты будут водными мирами

Неизвестное ранее атмосферное явление

НЛО приземлился в селении Испик

Номерные радиостанции. Призраки на связи

Обнаружен подземный город возрастом 2000 лет

Открыли новое квантовое состояние материи

Пророчества или шокирующие совпадения

Секс с роботами - признак демократии

Столкновение астероида с Землей. Как это будет

Таинственный остров в виде отпечатка пальца

Треугольный НЛО заметили в Калифорнии

Власти разрешили туристам ездить к перевалу Дятлова

Глаза это действительно зеркало души

Загадочные волосы черных дыр

Как появились знаменитые хоббиты

Найден ядерный могильник возрастом в 2 млрд лет

НЛО. Миф или реальность

Обнаружили экзопланету из пенопласта

Откуда берутся призраки

Очевидцы снова видели НЛО в Кемерово

Планируют создать технологию для обмена мыслями

Показали достоверные снимки НЛО

Почему ИИ может быть расистом

Предложена концепция полета к Сириусу

Предсказания Нострадамуса о судьбах России, Украины и США

Представили коммерческую версию летающего автомобиля

Призрак женщины в очках

Призрака сняли в Уэнтуорт Вудхаусе

Пророчества Зияда Сильвади

Путешествие во времени становится реальностью

Самые яркие появления НЛО

Сериал Секретные материалы продлили еще на сезон

Следы тающего льда нашли на Марсе

Составили карту марсианского плато Большой Сирт

Тайна второй планеты

Теория о падении кометы на Землю около 13000 лет назад

Требуется помощь людей для поиска пришельцев на экзопланетах

Успешно испытали первый летающий электрокар

Чупакабра в Каслинском районе

Чупакабра орудует в Кременчуге

Экзопланеты были открыты 25 лет назад, а инопланетян все не видно

Ванга предсказала химическую атаку в Сирии

Все обитаемые планеты покрыты океанами

Встреча Петербург-Космопоиск состоялась на Петроградской стороне

Житель Пенсильвании поделился историей о потерянном времени

Жуткий пожиратель телят

Инопланетяне запустили в серию квадратные НЛО

Инопланетяне не идут на контакт

Как раскрывают тайны манускрипта Войнича

Какой может быть жизнь на Энцеладе

На Энцеладе существуют биолюминесцентные организмы

Над Ванкувером пролетели две группы НЛО

Окаменевший пень обнаружен на Марсе

Пиктограмма в Уилтшире повторяет петроглиф на камне Кочно

Почему выбросы черных дыр движутся со сверхсветовой скоростью

Сезон кругов 2017 начался с предложения Контакта

Смоделировали столкновения астероидов с Землей

События связанные с деятельностью внеземных цивилизаций

Что пили апостолы и фараоны

Что такое Блудные места

Шоколадные холмы Филиппин

Артисты боятся находиться в паранормальной телестудии

Возможна ли жизнь на планете с двумя солнцами

Вышла книга о Стоунхендже под Полоцком

Жертвы похищений пришельцами опубликовали свои истории

За антиправительственной акцией протеста наблюдал НЛО

Изобрели бесцветный кофе

Инопланетные визиты в Забайкалье

Климатические условия на экзопланетах

Конец света наступит 12-го октября

Контактёрами чаще становятся психи

Машину охотников за привидениями увидели в Омске

Может ли Слендермен существовать

Нашли большую сестру Земли

Нашли инопланетный топор

Обнаружили третье состояние сознания

Оператор запечатлел НЛO во время съемок

Пиктограмма появилась в Глостершире

Поставили под сомнение существование Планеты Х

Признаки того, что вы шаман

Причина невозможности встречи землян с инопланетянами

Пророчество Джулии Ванг об окончании войны в Донбассе

Рядом с МКС пролетел цилидрический НЛО

Свекольный сок омолаживает

Светящийся НЛО появился над озером Гарда

Следы чешуйчатых рептилий нашли на Марсе

Сняли летящий перед самолетом НЛО

Третья мировая война начнется 13-го мая

Учёные купили марсианский метеорит

Шаманы ужаснули мир новыми предсказаниями

Якутская страшилка

Аномальное поведение мыльной пены

Астроном изучает жизнь на других планетах

Волшебный остров на Титане

Горящая ведьма улетела в небо

Доказали осмысленность манускрипта Войнича

Подписка на новости сайта
Наверх
Рейтинг@Mail.ru Яндекс.Метрика