Знание языков превращает искусственный разум в расиста
Обучение систем искусственного интеллекта человеческим языкам привело к тому, что те стали "расистами" и "мизогинистами" со стереотипными представлениями о неприятных чернокожих и глупых женщинах, заявляют ученые в статье, опубликованной в журнале Science.
"Можно просто зайти в систему онлайн перевода и ввести фразу – "он/она является доктором" на языке, в котором он и она обозначаются одним словом. ИИ переведет это как "он врач". Если же написать "он/она является медсестрой", то машина переведет это как "она медсестра". Таким образом, ИИ отражает расовые и половые предрассудки, встроенные в наши языки", — объясняет Айлин Калискан (Aylin Caliskan) из Принстонского университета (США).
Как рассказывает Калискан, все слова во всех языках мира можно разбить на определенные подгруппы, обозначающие схожие предметы, феномены или какие-то другие вещи одного класса. Представители одного такого класса будут казаться нам ближе друг к другу, чем остальные слова, даже если их написание будет отличаться сильнее, чем другие слова, состоящие из почти таких же букв.
К примеру, как объясняет Калискан, слова "кошка" и "собака" ближе друг к другу, чем к словам "правосудие" или "холодильник". Это проявляется в том, что при формулировке предложений нам проще заменить слово представителем его класса, чем другими, более далекими словами. Как выражается Калискан, можно прийти домой и покормить кошку или собаку, но не холодильник или тем более правосудие.
Этот фактор сегодня учитывается самыми современными системами искусственного интеллекта при переводе текста с одного языка на другой для того, чтобы сделать машинный перевод более естественным. Изучая такие ассоциации, которые сформировались у систем искусственного разума при их обучении при помощи архивов старых газет, книг и других текстов, переведенных на разные языки мира, Калискан и ее коллеги открыли нечто привычное для нас и необычное для "разумных" машин.
Изучая списки родственных и "чужих" слов для разных местоимений, терминов и профессий, ученые обнаружили, что машина переняла все те расовые и гендерные стереотипы, которые существовали в человеческом обществе на протяжении многих веков и отразились в языках и в ассоциациях между словами.
К примеру, искусственный интеллект ассоциировал слово "приятный" в большей степени с европейцами и американцами европейского происхождения, чем с представителями других уголков мира, а имена мужчин и "мужские" местоимения ассоциировались с карьерой, управлением бизнесом и властью. Имена, носителями которых являются афро-американцы, ИИ ассоциировал с неприятными словами.
Аналогичным образом, слова, связанные с женщинами, были ближе к терминам, связанным с семьей, искусством и подчиненными ролями в обществе, а "мужские" слова были связаны с математикой и наукой.
Открытие расовых и гендерных стереотипов, "встроенных" в языки народов мира, как считают ученые, ведет к нескольким интересным следствиям. Во-первых, возникает вопрос, что здесь является причиной и следствием – существовали ли эти стереотипы всегда (так называемая гипотеза Сепира-Уорфа), подспудно влияя на менталитет и мнения людей, или же они были продуктом эволюции языка в разные периоды времени, и не они, а на них влияли сами носители языка.
Во-вторых, дальнейшая эволюция систем ИИ и приобретение ими способности самостоятельно общаться с человеком может привести, по мнению авторов статьи, к дальнейшему укоренению и распространению таких стереотипов. Поэтому они предлагают подумать над созданием алгоритмов, которые помогли бы "удалять" расистские и женоненавистнические тенденции из систем машинного перевода и будущих разумных машин. Как это повлияет на точность перевода или адекватность общения — открытый вопрос, скептично отмечает Энтони Гринвальд (Anthony Greenwald), создатель методики анализа, использованной Калискан и ее коллегами.
Источник
Подписка на новостой RSS-канал сайта
Получать новости сайта по почте
Контактный адрес для любых сообщений
МЕНЮ
Архив материалов
Подписка на новости
Новости криптозоологии
Хроники природных катастроф
ПОСЛЕДНИЕ НОВОСТИ
19.05.2017 - 05.07.2017 (1000)
06.07.2017 - 24.08.2017 (1000)
25.08.2017 - 06.10.2017 (991)
07.10.2017 - 15.11.2017 (990)
16.11.2017 - 24.12.2017 (1000)
25.12.2017 - 04.02.2018 (990)
05.02.2018 - 17.03.2018 (1000)
18.03.2018 - 02.05.2018 (990)
03.05.2018 - 11.06.2018 (1000)
12.06.2018 - ...
Последние аномальные новости

Аномальные места Хабаровского края

Жуткие фото демонов из тёмной материи

Загадочные шары на снимках, сделанных группой Игоря Дятлова

Инопланетяне хранят атомные подлодки на секретной базе в Китае

Космопоиск изучает загадочные круги в Краснодарском крае

Кто и как провел день летнего солнцестояния

Люди успокаивают себя наличием инопланетян

Нашли способ замедлить старение

Некоторые места на Земле притягивают к себе инопланетян

Новый план по отражению астероидных угроз

Охотники на привидений не заметили, как запечатлели призрака

Парагвайский фермер увидел чупакабру

Полчища гигантских крыс атаковали шведский город

Прогулки в ином мире

Спортивный комментатор Джейлен Роуз - андроид

Способ осмысления жизни, Вселенной и сущего

Странный свет на вулкане Сакурадзима

Строители Стоунхенджа знали теорему Пифагора

Строительство секретных туннелей может вызвать извержение Йеллоустоуна

США создают новое космическое оружие

Аркаим рискует в июне утонуть в фекалиях

Высокоразвитые цивилизации буксируют звезды

Голубые дюны обнаружены на Марсе

Двойник японской певицы попал на фото

Демоническое лицо увидели над полыхающими Гавайями

Загадочную надпись обнаружили в замке короля Артура

Закручивающийся НЛО в небе над Айдахо

Зародыш бигфута найден в лесу Аризоны

Зеленый НЛО замечен над Оттавой

Искусственный интеллект научился собирать кубик Рубика

Искусственный интеллект переспорит человека

Когда дети видят то, чего не видят взрослые

Куда пропала половина материи Вселенной

Летчик наблюдал НЛО около Нью-Джерси

Метеорит взорвался над Воронежом

Молекулы помогут обнаружить планеты-невидимки

Нераскрытая тайна мегалитов Пума Пунку

НЛО похожий на огромную рыбу замечен на Аляске

НЛО сняли над Астраханью

Ночной кошмар перешел в реальность

Объяснили все загадки миражей

Одержимого демонами врача отстранили от работы

Плазмоид сняли в Калифорнии

Пользователь Twitter предсказал успехи сборной России

Пророк снял странное козлиное проклятие

Секрет долголетия вечеринки и алкоголь

Создатель кругов на полях выложил новый рисунок

Странную воду обнаружили в недрах Земли

Феномен серебристых облаков

Человек растворился в воздухе

Аномалии России. Долины смерти и горы мертвецов

Бигфута сняли в лесу Луизианы

Вечная жизнь Хамбо Ламы Итигэлова

Встреча со странными детьми в самолете

Деревья Северной Америки загадочно изогнуты

ДНК - самая ценная вещь в торговой сделке с инопланетянами

Жизнь и необыкновенные приключения Соодой-ламы

Загадка племени Тода

Загадочный Батагайский разлом

Звездный десант США

Илон Маск предоставит доказательства того, что человечество живет в матрице

Инопланетяне поразили молнией мужчину за фото НЛО

Инопланетяне посещают Землю, чтобы скрещиваться с людьми

Леветирующий камень Даваско

Люди Конца света не боятся, они его ждут

Нашли логическое объяснение НЛО, который разбился на Марсе

НЛО заметили над Ростовом

НЛО над Буффало попал в вечерние новости

Огромный НЛО приземлился в Останкино

Почему люди верят в гороскопы

Почему машины до сих пор не летают

Профессор-астролог предсказывает результаты матчей

Рычащее демоническое существо появилось в доме

С рюкзаком по местам силы Крыма

Самые инопланетные места на Земле

Скальный храм Кайлаш

Тайны Гозекского круга

Удивительный Конь-камень

Утраченный язык общения с ангелами

Уфологи зафиксировали повышенную активность инопланетян

Армада инопланетян посетила Лондон

Будущее влияет на прошлое

Вы вовлечены в процесс сдвига высших измерений

Гигантский НЛО над Великобританией

Гугл научился предсказывать дату смерти

Девочка сняла на отдыхе с родителями Лох-Несское чудовище

Дышать на Марсе помогут цианобактерии

Загадка непостоянного дня на Венере

Загадочная грязь пролилась с неба Канады

Загадочный нагрев Луны объяснили деятельностью астронавтов

Инопланетяне 30 лет проводили опыты над телом женщины

Инопланетяне наблюдали за матчем сборной Германии

Инопланетяне никогда не позволят людям колонизировать Марс

Калейдоскопическое свечение сняли над Аризоной

Люди в черном замечены на Аляске

Люди-бабочки спасли людей от смерча

Мертвого загадочного зверя опознали

Объяснено формирование суперземель

Пиктограмма появилась возле Стоунхенджа

Полтергейст выгнал женщину из дома

Получены доказательства наличия воды на Луне

Призрак бабушки буянит на кухне

Призрак карлика заметили возле таверны

Прямые наблюдения экзопланет

Секс-роботов научили отказывать

Сферические НЛО были замечены в Дублине

Убить ребенка ради Слендермена

Умели ли летать древние индийцы

Что приносит удачу каждому из знаков Зодиака

Чупакабру сняли в Англии

Выигрышные комбинации в казино Вулкан

Игровая стратегия в онлайн автоматы Вулкан

Игровая магия казино Вулкан захватывает игроков

Агрессивный призрак преследовал мужчину с детства

Врата между мирами нашли Медоборах

Выписки из уголовного дела по гибели группы Дятлова

Долина кувшинов в Лаосе. Неразгаданная загадка прошлого

Дорога инков. Древнее инженерное чудо

Загадки Рдейского монастыря

Записка прокурора Темпалова по делу группы Дятлова

Инопланетяне ударили женщину молнией

Источник воды и инопланетной жизни нашли на Марсе

Космопоиск ищет НЛО и охотится за приведениями

Кто и зачем построил Баальбек

Мистическая открытка, искажающая человеческие лица

Найдено более 100 гигантских экзопланет

НЛО во время футбола пролетел над Саранском

НЛО заметили в небе Франции

НЛО пролетел над Пензой

НЛО следил за жителями Хьюстона

НЛО-трансформер наблюдали в небе Нью-Джерси

Оборотни Висконсина

Пассажиры самолета сняли из окна НЛО

Президент США примерил костюм Сатаны

Путешественник во времени встречает молодого себя

Тайну Лох-Несского чудовища разгадают

Тайны древнего города Аксум

Титанобоа. Морской змей весом в тонну

У женщины в голове живет 12 личностей

Удивительное святилище Трёхостровское

Уфолог рассказал, как его похитил инопланетянин

Центр изучения НЛО откроют в Бразилии

Четыре НЛО появились в небе Северной Каролины

Настало время играть в игровые автоматы Вулкан

Джойказино - лучшее виртуальное казино современности

Армия укрыла премьер-министра Индии от инопланетян

Астронавты обнаружили на Луне города инопланетян

Безумный план НАСА. Отправить субмарину на Титан

Два НЛО сняли над Санта-Круз

ДНК человека может быть продуктом чужого разума

Дождь из осьминогов и креветок прошел в Китае

Женщина сняла призрачный силуэт своей умершей собаки

Индонезийский злой дух Кунтиланак удалось снять

Инопланетянам решили выслать музыку

Инопланетяне похищают и съедают их детей в Индии

Как произошла гибель туристов на перевале Дятлова

Летчик столкнулся с НЛО-амфибией

Морское чудовище сняли в корейском море

Найдены доказательства поддельности Стэнфордского эксперимента

Нерадивый муж сросся с любовницей

Прозрение Кораха

Прямой эфир в Буффало посетил любопытный НЛО

Пять самых загадочных военных баз

Редкая двойная радуга над Новосибирском

Розуэлльский инцидент - реальное вторжение инопланетян

Секретный отчет доказал связь НЛО с людьми в Нимице

Слет групп Космопоиска начинается на Кубани

Спиралевидные облака над Землей

Странные облака над Северной Америкой

Существуют ли расы в биологическом смысле

Сферический НЛО исследовал территорию Питтсбурга

Турист сделал отличное фото НЛО Гэмпшире

Удалось запечатлеть китайское морское чудовище

Уфологи называют Астраханскую область зоной активности НЛО

Фармацевты убили больше людей, чем все мировые войны

Играть в онлайн казино Вулкан

Портал игровых автоматов 777

Врата в Ад находятся в Индиане

Выяснили, что в карликовых галактиках нет темной материи

Демоническое животное поймали в США

Золотые наночастицы обнаружили в диких растениях

Извержение вулкана покрыло пляжи Гавайев загадочными золотыми волосами

Инопланетный дрон заметили в Италии

Климатическое оружие. Мифы и реальность

Найден участок ДНК, превращающий девочек в мальчиков

Нашествие демонов началось на Землю

Подписка на новости сайта
Наверх
Рейтинг@Mail.ru Яндекс.Метрика