Знание языков превращает искусственный разум в расиста
Обучение систем искусственного интеллекта человеческим языкам привело к тому, что те стали "расистами" и "мизогинистами" со стереотипными представлениями о неприятных чернокожих и глупых женщинах, заявляют ученые в статье, опубликованной в журнале Science.
"Можно просто зайти в систему онлайн перевода и ввести фразу – "он/она является доктором" на языке, в котором он и она обозначаются одним словом. ИИ переведет это как "он врач". Если же написать "он/она является медсестрой", то машина переведет это как "она медсестра". Таким образом, ИИ отражает расовые и половые предрассудки, встроенные в наши языки", — объясняет Айлин Калискан (Aylin Caliskan) из Принстонского университета (США).
Как рассказывает Калискан, все слова во всех языках мира можно разбить на определенные подгруппы, обозначающие схожие предметы, феномены или какие-то другие вещи одного класса. Представители одного такого класса будут казаться нам ближе друг к другу, чем остальные слова, даже если их написание будет отличаться сильнее, чем другие слова, состоящие из почти таких же букв.
К примеру, как объясняет Калискан, слова "кошка" и "собака" ближе друг к другу, чем к словам "правосудие" или "холодильник". Это проявляется в том, что при формулировке предложений нам проще заменить слово представителем его класса, чем другими, более далекими словами. Как выражается Калискан, можно прийти домой и покормить кошку или собаку, но не холодильник или тем более правосудие.
Этот фактор сегодня учитывается самыми современными системами искусственного интеллекта при переводе текста с одного языка на другой для того, чтобы сделать машинный перевод более естественным. Изучая такие ассоциации, которые сформировались у систем искусственного разума при их обучении при помощи архивов старых газет, книг и других текстов, переведенных на разные языки мира, Калискан и ее коллеги открыли нечто привычное для нас и необычное для "разумных" машин.
Изучая списки родственных и "чужих" слов для разных местоимений, терминов и профессий, ученые обнаружили, что машина переняла все те расовые и гендерные стереотипы, которые существовали в человеческом обществе на протяжении многих веков и отразились в языках и в ассоциациях между словами.
К примеру, искусственный интеллект ассоциировал слово "приятный" в большей степени с европейцами и американцами европейского происхождения, чем с представителями других уголков мира, а имена мужчин и "мужские" местоимения ассоциировались с карьерой, управлением бизнесом и властью. Имена, носителями которых являются афро-американцы, ИИ ассоциировал с неприятными словами.
Аналогичным образом, слова, связанные с женщинами, были ближе к терминам, связанным с семьей, искусством и подчиненными ролями в обществе, а "мужские" слова были связаны с математикой и наукой.
Открытие расовых и гендерных стереотипов, "встроенных" в языки народов мира, как считают ученые, ведет к нескольким интересным следствиям. Во-первых, возникает вопрос, что здесь является причиной и следствием – существовали ли эти стереотипы всегда (так называемая гипотеза Сепира-Уорфа), подспудно влияя на менталитет и мнения людей, или же они были продуктом эволюции языка в разные периоды времени, и не они, а на них влияли сами носители языка.
Во-вторых, дальнейшая эволюция систем ИИ и приобретение ими способности самостоятельно общаться с человеком может привести, по мнению авторов статьи, к дальнейшему укоренению и распространению таких стереотипов. Поэтому они предлагают подумать над созданием алгоритмов, которые помогли бы "удалять" расистские и женоненавистнические тенденции из систем машинного перевода и будущих разумных машин. Как это повлияет на точность перевода или адекватность общения — открытый вопрос, скептично отмечает Энтони Гринвальд (Anthony Greenwald), создатель методики анализа, использованной Калискан и ее коллегами.
Источник
Подписка на новостой RSS-канал сайта
Получать новости сайта по почте
Контактный адрес для любых сообщений
МЕНЮ
Архив материалов
Подписка на новости
Новости криптозоологии
Хроники природных катастроф
ПОСЛЕДНИЕ НОВОСТИ
24.02.2017 - 03.04.2017 (994)
04.04.2017 - 18.05.2017 (1000)
19.05.2017 - 05.07.2017 (1000)
06.07.2017 - 24.08.2017 (1000)
25.08.2017 - 06.10.2017 (991)
07.10.2017 - 15.11.2017 (990)
16.11.2017 - 24.12.2017 (1000)
25.12.2017 - 04.02.2018 (990)
05.02.2018 - ...
Последние аномальные новости

Атлантида - миф или история

В Мексике наблюдали за вращающимся вокруг Луны НЛО

Грозит ли планете вторжение пришельцев

Жители Ростова-на-Дону напуганы необычным кругом в небе

Инопланетяне обстреливают наше Солнце

Искусственный интеллект способен заменить офтальмологов

Металлический фрагмент НЛО прячут в Пентагоне

Мимо спутника НАСА пролетел НЛО

На месте гибели группы Дятлова нашли десять трупов

Найден предмет из-за которого убили группу Дятлова

Найдены потомки десяти колен Израилевых

Новое доказательство мистификации лунной программы США

Открылся первый в мире НЛО-отель

Охотники за привидениями покажут, как ловить духов

Популярную теорию появления жизни подвергли сомнению

Предсказывала ли Ванга конец света

Придумали способ хранения данных внутри ДНК

Фотограф показал уникального двуликого кота

Яркий объект падает с неба над Бразилией

Ясновидящая дала 10 советов для успешной жизни

Безликую рыбу нашли у берегов Австралии

ГМ-кукуруза оказалась полезной

Детективная история звезды Табби

Как появились черепа пришельцев у древних инков

На дне Тихого океана обнаружили гигантскую пирамиду

Найден механизм омоложения мозга кровью молодых животных

Началась установка часов, которые проработают 10000 лет

Новейшая система генной модификации

Нормального состояния психики не существует

Обнаружены десятки крупнейших черных дыр

Останки богатейшего пирата нашли у берегов США

Подросток снес 18 яиц за два года

Предложено лететь к Марсу на паровозе

Речь появилась раньше, чем человек разумный

Создали искусственный моргающий глаз

США готовятся к звездным войнам

Термоядерные войны древности - 18

Три солнца взошло над Петербургом

Физики научились побеждать астероиды

Человечеству нужно готовиться к отражению атаки из космоса

Бигфута заметили в Мичиганском лесу

Жительница Норильска отдала экстрасенсу более 2 млн рублей

Знаки Зодиака наделенные высоким интеллектом

Изучение Земли поможет в поисках жизни на экзопланетах

Корабль инопланетян найден на снимках Аполлона 17

Красный НЛО пролетел над Белорусью

Летательные аппараты, которые часто принимают за НЛО

Мужчина заметил НЛО на снимке двадцатилетней давности

НЛО в форме бумеранга над Австралией

НЛО замечен у подножия вулкана Мануа Лоа

Огромный НЛО пролетел над Флоридой

Причина идеального расположения египетских пирамид

Путешественник из 3300 года рассказал о войне с роботами

Пуэрто-Рико - лучшее место для наблюдения НЛО

Пятнистый НЛО пролетел над заповедником Флориды

Сотрудники Стрелецких палат жалуются на призраков

Улыбающееся лицо увидели на марсианском камне

Чудеса аномальной зоны Молёбка

Шоу Гуччи с участием клонов, людоедов и рептилоидов

Юноша сделал фото призрачной девушки

Альпинист заметил НЛО над Эверестом

Астральные террористы атаковали премьера Таиланда

Астронавт пытался скрыть НЛО от камеры

Ведьм обрили, раздели и заставили есть фекалии

Визит пришельцев в спальню жительницы Канзаса

Города ближайшего столетия

Девочка утверждает, что была мужчиной в прошлой жизни

Женщина подала в суд, требуя признать бигфута

Жители Норильска увидели НЛО

Как выглядит внеземная жизнь

Как сложилась жизнь девочки-рентгена Натальи Дёмкиной

Камнетёс раскрыл тайну египетских пирамид

Когда люди научатся жить вечно

Кубань по праву считается аномальной зоной

Найдены человеческие останки возрастом 10000 лет

Психиатр рассказал о своих околосмертных переживаниях

Собака вернулась домой спустя 10 лет

Съемочная группа TBS почти двое суток караулила йети

Уфологи раскрыли тайну Челябинского метеорита

Экс-кандидат в президенты летал на Марс с Обамой

Вырастили химеру человека и овцы

Зачем закрывают зеркала, когда в доме умирает человек

Кто наблюдает за нами из-под Земли

Медиум обещает апокалиптические события

Мстящий призрак бросает камни в старика

Мужчина рассказал о встрече с инопланетянином спустя 50 лет

Над Орегоном пролетели инопланетяне

Нашли новый способ замедлить старение

Потерянная в веках Атлантида. Что мы о ней знаем

Почему во Вселенной так мало землеподобных планет

Президент Никсон знал об инопланетянах

Призрака сняли в бывшем публичном доме в Дареме

Русские моряки нашли на вершине горы вход в Рай

Самые необычные проекты транспорта будущего

Сибирский полтергейст в Маракса

Солнце на несколько мгновений пропало

Таинственная болезнь американских дипломатов

Треугольный НЛО пролетел мимо Солнца

Уфолог рассказал о похищении инопланетянами

Экстрасенс по призванию Ксения Ужинцева

Развлечения на сайте надежного онлайн-казино

Безоговорочный лидер онлайн развлечений казино Вулкан

Видео с 20 лучшими НЛО вызвало спорную реакцию

Горнодобывающий комплекс инопланетян на астеройде Эрос

Женщина называет себя реальным вампиром

Журналисты побывали в доме с полтергейстом

Инопланетные существа генетически однополые

Когда определенные числа преследуют человека всю жизнь

Корабль инопланетян обнаружили в Аризоне

Кошачья акула упала с неба в Англии

Мальчик, который мог оживлять картонного человечка

Может ли у Вселенной быть сознание

Несчастья, преследовавшие корабли с названием Москва

НЛО повадились летать в Ульяновскую область

Охотник за экзопланетами отправится в космос в апреле

Пассажир самолета снял флот НЛО

Пилоты F15 не смогли перехватить НЛО над Калифорнией

Предсказание Черного паука о приходе князя тьмы

Причина смерти группы Игоря Дятлова

Секретное оружие нацистской Германии

Странный НЛО над Финиксом

Устькаменогорцы обсуждают яркую вспышку в небе

Адмирал Берд встречался с подземными жителями планеты

Алхимики НКВД и философский камень

Документ ЦРУ рассказывает об исследовании НЛО

Древняя Венера была обитаемой

Инопланетяне могут выходить на связь через электронную почту

Как человек отреагирует на встречу с инопланетянами

Клады Смутного времени

Луна была создана инопланетянами

Министерство обороны Великобритании исследовало НЛО

Мистически невезучий эсминец Уильям Портер

Москве приписывают славу таинственного города

НЛО пролетели над пляжами в Тулуме

После урагана Мария замечен таинственный объект

Расстрелять школьников приказали демоны

Страшное пророчество Нострадамуса по Олимпийским играм

Супруги подали иск за проданный им дом ужасов

Таинственная подземная цивилизация из Гранд-Каньона

Тайны усадьбы купца Второва

Тибетская медицина братьев Бадмаевых

Уинстон Черчилль засекретил данные об НЛО

Верите ли вы в джиннов, живущих глубоко под землей

Вытянутые черепа из Перу принадлежат людям

Изучают возможность миссии на алмазную экзопланету

Индиго, Хрустальный или Радужный ребёнок

Инопланетный сигнал из соседней галактики

Инопланетяне похитили лыжника

Искатель иных миров

Кометы уничтожили и создали атмосферу планет системы TRAPPIST-1

Круг смерти обнаружен возле Зоны 51

Ледяные звезды возникли в чешском пруду

Летящую птицу сняли на Луне

Мегалиты Стоунхенджа подделка

Мировая элита посылает миру оккультные сообщения

Модификация тела уже не фантастика

Началась симуляция экспедиции на Марс

Нашли краску для поисков инопланетных микробов

Невероятное отражение того, что сделали с нашим обществом

Опубликована крупнейшая коллекция оккультных книг

Оранжевый НЛО медленно двигался по небу Палм-Спрингс

Открыли еще сто экзопланет

Оценили вероятность падения спорткара на Землю

Полицейские сбежали из дома с привидениями

Предложили искать обитаемые экзопланеты по их ионосферам

Пророчество судьбы Наполеона

Российский солдат будущего

Тайна Адской охоты

Таинственная рукопись Архимеда

Цивилизационные аркаимцы

Черный монолит обнаружили на Луне

Шесть НЛО устроили ночное шоу в небе Флориды

Археологи сделали беспрецедентное открытие

Возле Зоны 51 обнаружили НЛО

Вторжение рептилоидов

Для поиска инопланетян нехватает видеокарт

Древний кубок сделан с помощью нанотехнологий

Женщина летала к Синей Звезде

Загадка древнейшего храма Гёбекли-Тепе

Загадочная цитадель Саксайуаман

Зомби существуют в реальности

Инопланетяне вызвали землетрясение на Гавайях

Искусственный интеллект будет в каждом смартфоне

Искусственный интеллект стал обучаться в 10 раз быстрее

Как зарабатывают на Челябинском метеорите

Карту мегалитов создают в Адыгее

Подписка на новости сайта
Наверх
Рейтинг@Mail.ru Яндекс.Метрика