Знание языков превращает искусственный разум в расиста
Обучение систем искусственного интеллекта человеческим языкам привело к тому, что те стали "расистами" и "мизогинистами" со стереотипными представлениями о неприятных чернокожих и глупых женщинах, заявляют ученые в статье, опубликованной в журнале Science.
"Можно просто зайти в систему онлайн перевода и ввести фразу – "он/она является доктором" на языке, в котором он и она обозначаются одним словом. ИИ переведет это как "он врач". Если же написать "он/она является медсестрой", то машина переведет это как "она медсестра". Таким образом, ИИ отражает расовые и половые предрассудки, встроенные в наши языки", — объясняет Айлин Калискан (Aylin Caliskan) из Принстонского университета (США).
Как рассказывает Калискан, все слова во всех языках мира можно разбить на определенные подгруппы, обозначающие схожие предметы, феномены или какие-то другие вещи одного класса. Представители одного такого класса будут казаться нам ближе друг к другу, чем остальные слова, даже если их написание будет отличаться сильнее, чем другие слова, состоящие из почти таких же букв.
К примеру, как объясняет Калискан, слова "кошка" и "собака" ближе друг к другу, чем к словам "правосудие" или "холодильник". Это проявляется в том, что при формулировке предложений нам проще заменить слово представителем его класса, чем другими, более далекими словами. Как выражается Калискан, можно прийти домой и покормить кошку или собаку, но не холодильник или тем более правосудие.
Этот фактор сегодня учитывается самыми современными системами искусственного интеллекта при переводе текста с одного языка на другой для того, чтобы сделать машинный перевод более естественным. Изучая такие ассоциации, которые сформировались у систем искусственного разума при их обучении при помощи архивов старых газет, книг и других текстов, переведенных на разные языки мира, Калискан и ее коллеги открыли нечто привычное для нас и необычное для "разумных" машин.
Изучая списки родственных и "чужих" слов для разных местоимений, терминов и профессий, ученые обнаружили, что машина переняла все те расовые и гендерные стереотипы, которые существовали в человеческом обществе на протяжении многих веков и отразились в языках и в ассоциациях между словами.
К примеру, искусственный интеллект ассоциировал слово "приятный" в большей степени с европейцами и американцами европейского происхождения, чем с представителями других уголков мира, а имена мужчин и "мужские" местоимения ассоциировались с карьерой, управлением бизнесом и властью. Имена, носителями которых являются афро-американцы, ИИ ассоциировал с неприятными словами.
Аналогичным образом, слова, связанные с женщинами, были ближе к терминам, связанным с семьей, искусством и подчиненными ролями в обществе, а "мужские" слова были связаны с математикой и наукой.
Открытие расовых и гендерных стереотипов, "встроенных" в языки народов мира, как считают ученые, ведет к нескольким интересным следствиям. Во-первых, возникает вопрос, что здесь является причиной и следствием – существовали ли эти стереотипы всегда (так называемая гипотеза Сепира-Уорфа), подспудно влияя на менталитет и мнения людей, или же они были продуктом эволюции языка в разные периоды времени, и не они, а на них влияли сами носители языка.
Во-вторых, дальнейшая эволюция систем ИИ и приобретение ими способности самостоятельно общаться с человеком может привести, по мнению авторов статьи, к дальнейшему укоренению и распространению таких стереотипов. Поэтому они предлагают подумать над созданием алгоритмов, которые помогли бы "удалять" расистские и женоненавистнические тенденции из систем машинного перевода и будущих разумных машин. Как это повлияет на точность перевода или адекватность общения — открытый вопрос, скептично отмечает Энтони Гринвальд (Anthony Greenwald), создатель методики анализа, использованной Калискан и ее коллегами.
Источник
Подписка на новостой RSS-канал сайта
Получать новости сайта по почте
Контактный адрес для любых сообщений
МЕНЮ
Архив материалов
Подписка на новости
Новости криптозоологии
Хроники природных катастроф
ПОСЛЕДНИЕ НОВОСТИ
26.10.2016 - 05.12.2016 (995)
06.12.2016 - 15.01.2017 (995)
16.01.2017 - 23.02.2017 (990)
24.02.2017 - 03.04.2017 (994)
04.04.2017 - 18.05.2017 (1000)
19.05.2017 - 05.07.2017 (1000)
06.07.2017 - 24.08.2017 (1000)
25.08.2017 - 06.10.2017 (991)
07.10.2017 - 15.11.2017 (990)
16.11.2017 - ...
Последние аномальные новости

Астроном увидел НЛО в небе Ред-Дир

Бесполый ребенок-русалка родился в Индии

Встречи с существами из тонкого мира

Гул Земли из глубин океана озадачил ученых

Допалеонтологическая аркитектура

Загадочный подземный гул

Инопланетная дискотека над Австралией

Инопланетяне присутствуют среди нас тысячелетия

Искусственный интеллект победил лучшего шахматиста

Межзвездный астероид имеет планетарное происхождение

Мужчина наладил связь с инопланетянами

НЛО - военные разработки США

НЛО над Сан-Антонио

Перемещение в иную реальность

Пушистые мутанты. Природа играет с внешностью домашних питомцев

Руки Бога над Австралией

Фотограф из Аризоны увидел НЛО возле Луны

Холм Сваямбунатх - древняя посадочная площадка инопланетян

Четырехугольный НЛО с трапом нашли на Ганимеде

Экстрасенс Влад Кадони рассказал о будущем

Аномалии микроволнового излучения в Африке

Галактическая война уничтожила инопланетные цивилизации

Гигантские наскальные рисунки Венесуэлы

Доктор Дум пугает катастрофами

Загадки инопланетян. Бесследное исчезновение НЛО

Загадочные звуковые удары над Зоной 51

Искусственный интеллект приступает к поиску убийц

Искусственный разум. Чего ждать людям от умного железа

Клад Наполеона найден в Семлевском озере

Миссия Маринер 10 увидела черный НЛО над Луной

Новое прочтение письмен майя. Конец света через две недели

Сакральные песни Сибирской Атлантиды

Самая прожорливая японка

Самые фантастические артефакты пропадают бесследно

Случай в Рендлшемском лесу оказался правдой

Сняли мифическую скунсовую обезьяну

Сталкеров напугал крик из преисподней

Странное НЛО над Квебеком

Уфологи ополчились на НАСА

Юрий Гагарин вступал в контакт с инопланетянами

Успешный клуб азартной отрасли Вулкан

Играйте в слоты известного казино Адмирал

Астролог Глоба рассказал о будущем

Доводы сторонников теории плоской Земли

Женщина занимается сексом с призраками

Загадочные дыры на Ямале

Как отличить коричневые карлики от огромных экзопланет

Комета Чурюмова на 45% состоит из сложной органики

Крушение НЛО в Авроре

Люди таинственным образом пропадают на Аляске

Лютоволки появились в окрестностях Нью-Йорка

Мальчик без зрительной коры способен видеть

Межзвездный НЛО рядом с туманностью Ориона

Мотоциклы будущего

Мулдашев рассказал о сходстве эпоса Урал-батыр и Сильмариллиона

Нейрохирург не верил в загробную жизнь

НЛО за окном испугал жителя Северной Каролины

НЛО притаилось в облаке над Трёхгорным

Новый прибор для поиска каменных экзопланет

Огромные залежи глины на Марсе

Первые галактики утопали в темной материи

Предсказания Нострадамуса на 2018 год

Призрак на веб-аукционе

Прогресс искусственного интеллекта

Ребенка, похищенного инопланетянами, не могут найти

Река загадочным образом меняет свой цвет

Сообщения от близких людей из загробной жизни

Спиральный НЛО над Скалистыми горами

Странный световой феномен в Мичигане

Удалось пробудить двигатели зонда Вояджера 1

Удивительная Индия, о которой мало кто знает

Университет открыл кафедру инопланетной дипломатии

Виртуальные азартные игры с большой силой завлекают людей

Букмекерская контора Марафон

Внеземное происхождение древних топоров

Вокруг красного карлика нашли две суперземли

Выделили деньги на разработку генетического оружия

Гигантская подлодка обнаружена на Луне

Гигантских морских змей выбросило на побережье Чукотки

Главный фактор долголетия

Женщина может распознавать рептилоидов среди людей

Инопланетяне должны быть похожи на нас

Искусственный интеллект научили делать искусственную зиму

Как выжить в ядерной войне

Мистическое природное явление в Швеции

Найден манускрипт с тайными учениями Христа

НЛО ярким лучом озарил небо над Канадой

Предсказатели обнародовали три сценария конца света

Призрак рабыни попал на групповое фото

Призрак ребенка, идущий по коридору заброшенной усадьбы

Пушечное ядро нашли на Марсе

Стену здания нашли на Церере

Тектонику плит нашли на Европе

Термоядерные войны древности - 3

В Таиланде массово усыновляют кукол

Вампиры нападают на людей в Малави

Движущиеся камни Беларуси

Древние артефакты изготавливали из метеоритов

Жуткий гримуар Пикатрикс

За платные эзотерические услуги будут сажать

Загадочный НЛО в ночном небе Карелии

Записан мощный радиосигнал неземного происхождения

Звездолет инопланетян вошел в атмосферу Земли

Инопланетянам нравится графство Эссекс

Инопланетяне были на Земле, но их визит скрыли

Крысу-мутанта создали для борьбы с крысами

Кто и куда забирает воду с планеты Земля - 4

Математик доказал теорему, которую не могли решить 40 лет

Младенец пролежал в животе женщины 15 лет

Морпех рассказал о базе НЛО под Гуантанамо

Найден древнейший геоглиф в провинции Ика

НЛО в небе над Кемерово

О проекте Голубой луч вновь заговорили

Послание инопланетян человечеству

Предвиденье будущего

Протопланетный диск у звезды HD 169142

Путешественники во времени

Роботы отнимут у людей 375 миллионов рабочих мест

Семейная пара сняла гаражный призрак

Тайна Масляного шара Кришны

Тайна чупакабры в Каслях

Тайные общества, которые до сих пор правят миром

Человек, который доживет до 1000 лет, уже родился

Черные копатели повредили курган Ульский-12

Антигравитация и размягчение камней

Гигантский НЛО пролетел мимо МКС

Группа подростков в Аргентине стала одержима демонами

Дождь из мертвых пауков в Австралии

Желающие могут встретить Рождество в Хогвартсе

Загадочная дымка напугала жителей Красноярска

Загадочное поведение облаков над Иллинойсом

Замки, в которых согласно легендам живут призраки

Искусственную атмосферу планируют создать на Церере

Искусственный интеллект записал музыкальный альбом

Искусственный интеллект создал собственный ИИ

Каддафи предвидел, что станет с Украиной

Каким будет в России 2018 год

Летающих тварей сняли в Саскачеване

Множество других планет нашли в недрах Земли

Мужчина прошёл детектор лжи, чтобы доказать существование пришельцев

Нашли черные дыры, возникшие из ниоткуда

НЛО сняли в горах Словакии

НЛО, которые были сняты в 2017 году

Призраков можно увидеть в Троицке

Радиация уничтожила древние инопланетные цивилизации

Радуга в небе наблюдалась в течение 9 часов

Родился ребенок у женщины без матки

Российские ПВО сбили черный треугольный НЛО

Сталкеры сняли жуткое видео о заброшенном интернате

Странная арктическая радуга

Странные совпадения хаотических событий

Страшные предсказания Матроны Московской на 2018 год

Треугольные НЛО в небе Аризоны

Физики обратили время вспять

Астероид Фаэтон врежется в Землю 16 декабря

Биохакинг увеличит продолжительность жизни до 120 лет

Вход в подземелья Антарктиды найден

Глава Apple не боится искусственного интеллекта

Даты появлений НЛО в Южной Африке вплоть до 2017 года

Женщина сняла НЛО из самолета над Самарой

Жуткого вида облака на Юпитере

Загадочный туман на Плутоне

Как контролировать свои сны

Манускрипт 512 или тайна древнего города

Мистический город Джиларми Фарини существует

На старых фото НАСА нашли два НЛО

Найдена инопланетная сверхцивилизация

НЛО летал над провинцией Онтарио

Охотника на рептилоидов задержали

Россия опережает США в разработке искусственного интеллекта

Феномен хрономиражей

Человечество скоро вступит в контакт с инопланетянами

Экстрасенса Миткевича-Далецкого задержали за наркотики

Яркое НЛО сверкало на небе, как второе Солнце

Высадка огненных инопланетян

Где в Крыму среди скал привидения бродят

Генетически модифицированные дети не за горами

Звездный ветер снижает шансы встретить обитаемую экзопланету

Инопланетяне вживляют в человеческий организм имплантаты

Инопланетяне живут у звезды KIC 8462852

Инопланетянин, гуляющий в парке

Искусственный интеллект сам изучает новые языки

Как превратить пармезан в электричество

Как сделать путешествие во времени возможным

Какие секреты хранятся в Ватиканской библиотеке

Кто и куда забирает воду с планеты Земля - 3

Подписка на новости сайта
Наверх
Рейтинг@Mail.ru Яндекс.Метрика