Почему ИИ может быть расистом
Неудачный эксперимент компании Microsoft с ее ИИ-алгоритмом Tay (Тэй), который в течение 24 часов после начала взаимодействия с людьми из «Твиттера» превратился в закоренелого расиста, показал, что создаваемые сегодня ИИ-системы могут стать жертвами человеческих предрассудков и в частности стереотипного мышления. Почему это происходит – постаралась выяснить небольшая группа исследователей из Принстонского университета. И что интересно, им это удалось. Кроме того, они разработали алгоритм, способный предсказывать проявление социальных стереотипов на основе интенсивного анализа того, как люди общаются между собой в Интернете.
Многие ИИ-системы проходят свое обучение в понимании человеческого языка с помощью массивных коллекций текстовых данных. Их еще называют корпусами. Они являются эдаким веб-архивом всего Интернета, содержащим 840 миллиардов различных токенов или слов. Исследователя Айлин Калискан и ее коллеги из Принстонского центра информационных технологий заинтересовало – содержится ли в корпусе Common Crawl (одна из самых популярных площадок для обучения ИИ), по сути создающегося миллионами пользователей Интернета, стереотипные понятия, которые можно было бы обнаружить с помощью компьютерного алгоритма. Для этого они прибегли к весьма нестандартному методу – тесту на скрытые ассоциации (Implicit Association Test, IAT), применяемому для исследования социальных установок и стереотипов у людей.
Обычно такой тест выглядит следующим образом: людей просят разделить определенный набор слов на две категории. Чем дольше человек думает, в какую категорию поместить то или иное слово, тем меньше человек ассоциирует это слово с той или иной категорией. В общем, тесты IAT используются для измерения уровня стереотипного мышления у людей, путем ассоциативного структурирования случайного набора слов по таким категориям, как пол, раса, физические возможности, возраст и так далее. Результат подобных тестов, как правило, вполне предсказуем. Например, большинство респондентов ассоциируют слово женщина с таким понятием, как «семья», в то время как мужчину – с понятием «работа». Однако очевидность и предсказуемость результатов как раз и являются доказательством полезности тестов IAT, которые указывают на наше стереотипное мышление в своей общей массе. Среди настоящих ученых, конечно, идут некоторые споры о точности IAT, но большинство соглашается с тем, что эти тесты прямо отражают наши социальные установки.
Используя IAT-тесты в качестве модели, Калискан и ее коллеги создали алгоритм WEAT (Word-Embedding Association Test), анализирующий целые фрагменты текстов, чтобы выяснить, какие лингвистические сущности теснее связаны между собой, чем другие. Часть этого теста основана на разработанном Стэнфордским университетом концепте GloVe (Global Vectors for Word Representation), который вычисляет векторные семантические отношения между словами, то есть объединяет связанные между собой термины. Например, слово «собака», представленное в векторной семантической модели, будет связано с такими словами, как «щенок», «собачка», «песик», «барбос», «гончая» и любыми другими терминами, описывающими собаку. Суть таких семантических моделей заключается не в описании самого слова «собака», а в том, как описать сам концепт собаки. То есть понять, что она из себя представляет. Это особенно важно, когда вы работаете с социальными стереотипами, когда кто-то, например, пытается описать термин «женщина» такими понятиями, как «девушка» или «мать». Подобные модели широко используются в компьютерной лингвистике. Для упрощения работы исследователи ограничили каждый семантический концепт тремястами векторами.
Для того чтобы определить, насколько сильную каждый концепт из Интернета имеет ассоциативную связь с другим концептом внутри текста, алгоритм WEAT смотрит сразу на множество факторов. На самом базовом уровне, объясняет Калискан, алгоритм проверяет, сколько слов разделяют два отдельно взятых концепта (то есть проверяет близость их расположения внутри тестового поля), однако также в учет идут и другие факторы вроде частоты использования того или иного слова.
После проведения алгоритмического преобразования «близость» концептов в WEAT принимается за эквивалент времени, которое требуется человеку для категоризации концепта в тесте IAT. Чем дальше друг от друга стоят концепты, тем более удаленная ассоциативная связь между ними выстраивается мозгом человека. Алгоритм WEAT сработал в этом плане идеально, обнаружив стереотипные связи, которые до этого были также обнаружены в рамках тестов IAT.
«Мы фактически адаптировали тесты IAT для машин. И наш анализ показал, что если вы будете скармливать ИИ человеческие данные, содержащие стереотипные представления, то именно их он и запомнит», — комментирует Калискан.
Более того, этот набор стереотипных данных повлияет на то, как ИИ будет вести себя в будущем. В качестве примера Калискан приводит то, как алгоритм онлайн-переводчика Google Translate неправильно переводит слова на английский язык с других языков, основываясь на стереотипах, которые он выучил на базе гендерной информации. А теперь представьте, что Интернет заполонила целая армия ИИ-ботов, воспроизводящих все наши стереотипные понятия, которые они от нас же и набрались. Именно такое будущее нас и ждет, если мы всерьез не задумаемся о каком-то коррективном методе поправок стереотипного поведения у таких систем.
Несмотря на то, что Калискан и ее коллеги обнаружили, что интернет-язык буквально заполонен социальными стереотипными понятиями и предрассудками, он также оказался полон и правильными ассоциативными рядами. В одном из тестов исследователи обнаружили сильную ассоциативную связь между концептами «женщина» и «материнство». Данный ассоциативный ряд отражает истину реальности, в которой материнство и воспитание действительно рассматривается в основном как женская задача.
«Язык является отражением реального мира», — говорит Калискан.
«Выемка стереотипных понятий и статистических фактов о мире вокруг сделает машинные модели менее точными. Но опять же просто взять и исключить все стереотипные понятия невозможно, поэтому нам необходимо научиться работать с тем, что есть уже сейчас. У нас есть самосознание, мы можем принимать правильные решения вместо предвзятых вариантов. У машины нет самосознания. Поэтому экспертам искусственного интеллекта необходимо наделить машины способностью принимать те или иные решения, не исходя из стереотипных и предвзятых мнений».
И все же решением к проблеме человеческого языка, по мнению исследователей, является сам человек.
«Не могу представить себе много случаев, где не требовался бы человек, который смог бы проверить, будет ли принято правильное решение. Человеку будут известны все крайние случаи при принятии того или иного решения. Поэтому решения принимаются только после того, как становится понятно, что они не будут предвзяты».
В определенных кругах сейчас очень живо обсуждается тема о том, что роботы в скором времени смогут отобрать наши рабочие места. Когда мы получим ИИ, способный работать за нас, нам придется придумывать новые рабочие места для людей, которые будут вести проверку принятых ИИ решений, чтобы те не дай бог не совершали их с позиции предвзятости, которую они опять же почерпнули от нас самих же. Взять хотя бы чат-ботов. Даже если они станут совершенно самостоятельными, их изначальным созданием будут заниматься люди, обладающие своими предрассудками и стереотипами. Поэтому, так как стереотипные понятия изначально встроены в концепцию самого языка, для выбора правильного решения все равно потребуются люди, какими бы продвинутыми ИИ системы ни были.
В опубликованной недавно статье в журнале Science принстонские ученые говорят о том, что такое положение дел может иметь серьезные и далеко идущие последствия в будущем.
«Наши выводы определенно еще надут свое отражение при обсуждении гипотезы Сепира — Уорфа. Наша работа показывает, что поведение может формироваться на основе исторически сложившихся культурных норм. И в каждом отдельном случае оно может быть разным, ведь у каждой культуры имеется своя история».
В относительно недавно вышедшем научно-фантастическом фильме «Прибытие» как раз затрагивается идея гипотезы Сепира — Уорфа, согласно которой структура языка влияет на мировосприятие и воззрения его носителей. Теперь же, благодаря работе Калискан и ее коллег, у нас появился алгоритм, подтверждающий эту гипотезу. По крайней мере в отношении стереотипных и предвзятых социальных понятий.
Исследователи хотят продолжить свою работу, но на этот раз сосредоточиться на других сферах и поискать еще не изученные стереотипные признаки в языке. Возможно, объектом исследования станут паттерны, создаваемые ложными новостями в СМИ, либо стереотипные понятия в определенных субкультурах или культурах с географической привязкой. Кроме того, рассматривается возможность исследования других языков, где стереотипные понятия могут быть интегрированы в язык совсем не так, как они интегрированы в английском.
«Предположим, что в будущем в определенной культуре или географическом месте начинает проявляться жесткое стереотипное мышление. Вместо того чтобы исследовать и проверять каждый отдельный человеческий фактор, на что потребуется очень много времени, денег и усилий, можно будет просто провести анализ текстовых данных отдельно взятой группы людей и на основе этого выяснить – действительно ли здесь имеет место речь о стереотипном восприятии или нет. Это позволит существенно сэкономить как средства, так и время», — подытоживают исследователи.
Источник
При использовании материалов с сайта активная ссылка на него обязательна
Подписывайтесь на наш Телеграм-канал
Последние аномальные новости

Европу ждут катастрофы, что предсказали Ванга и Нострадамус

Загадка древних ритуалов и духовных практик

Избрание Трампа может привести к массовым заявлениям об НЛО

ИИ сможет предсказывать результаты научных исследований

Инопланетяне десятилетиями следили за ядерными базами

Исследователи нашли обломки Атлантиды

Как древние боги могли повлиять на цивилизацию майя

Когда молодые звёзды лишаются шанса обзавестись планетами

Колорадский каннибал, которому нравился сладкий вкус плоти

Люди, которые открывали порталы в другие измерения

Мы приближаемся к официальному признанию НЛО

Опубликует ли Трамп секреты НЛО

Откуда исходят загадочные быстрые радиовсплески

Охотник на чудовищ пережил близкую встречу

Палата представителей объявляет слушания по НЛО

Пилот сообщает о наблюдении НЛО в Висконсине

Пилоты рассказали о загадочных метках на радаре

По всему Массачусетсу происходят массовые наблюдения НЛО

Поддельные аккаунты в соцсетях распространяют конспирологию

Почему НЛО так одержимы базой ВВС Уайтмен

Правительство США располагает технологией уничтожения НЛО

Признаки активного вулканизма заметили на Макемаке

Пришельцы наблюдают за американскими ядерными базами

Пророк сделал предсказание и во всём ошибся

Серия странных явлений в Бразилии

Странный НЛО, снятый над Пекином

Уфологический фестиваль в округе Лакаванна

Фальшивые теракты - идеальная почва для конспирологов

Хакер обнаружил сведения о настоящей истории человечества

Что нового у инопланетян

Америка стоит на пороге фрагментации

Американцы были на Луне, но видео сняли в павильоне

Аномалии, движущуюся в вблизи туманности Ориона

Бигфут прошел перед охотничьей камерой в Индиане

ВМФ США публикует информационные документы об НЛО

Время для прорыва. Что предсказано России

Громкое объявление об НЛО неизбежно

Дональд Трамп может сделать громкое заявление об НЛО

Древняя инопланетная цивилизация жила на Марсе

Живой Нострадамус делает очередное предсказание

Загадка Большой голубой дыры - чуда Белиза

Как мистификации о летающих тарелках становятся вирусными

Как уфологи голосуют на выборах в США

Квантовый прорыв может сделать телепортацию реальностью

Китайские ученые создали настоящую Звезду смерти

Китайский истребитель-невидимка J-35A выходит из тени

Надежды найти самолет Амелии Эрхарт снова рухнули

Нанотранзисторы для мощной электроники будущего

Неравенство Пенроуза модифицировали для черных дыр

Определена самая загадочная песня в интернете

Посадка в сложном для навигации регионе Венеры

Похищение инопланетянами на Манхэттене

Почему на холодном Марсе были реки и озера

Президентство Трампа идеально для объявления об НЛО

Разработка устройств на базе жидкого света ускорилась

Расскажет ли Трамп правду об НЛО

Симпсоны не смогли предсказать переизбрание Трампа

Соединенные Штаты находятся на грани распада

Странная история о встрече с НЛО

Тревожные последствия выборов в США

Гигантский резервуар жидкой воды обнаружен на Марсе

Готов ли Нью-Йорк к инопланетному вторжению

Действительно ли инопланетяне шпионят за ядерным оружием

Десятки людей сообщили, что видели НЛО в Дулуте

Женщины могут испытывать спонтанные оргазмы

Загадка черного Тадж-Махала

Как Иисус обеспечил чудесный улов рыбы

Китай создает оружие Звезды Смерти

Ключ к расшифровке неразборчивых древних текстов

Королевская семья может знать правду об инопланетянах

Кризис планов ВВС США по господству в воздухе

Луис Элизондо усиливает личную охрану

Невада не переживет вторжение инопланетян

Обнаружен странный объект, летящий с невероятной скоростью

Обнаружили самую быстродвижущуюся экзопланетную систему

Первое сообщение об НЛО получено из Западной Вирджинии

Почерк может показать является ли человек серийным убийцей

Самая одержимая кукла в кошмарном Доме проклятий

Странное явление в небе Бирмингема

Странное явление, похожее на полет феи

Структура, устрашающе похожая на эпизод фильма Контакт

Таинственные криптиды и чудовищные существа

Таинственные огни в небе Лестера

Трамп может заставить чиновников обнародовать данные об НЛО

Удивительно гладкий протопланетный диск вокруг Веги

Утверждается, что король Чарльз пилотировал НЛО

Учебники оживают благодаря новому ИИ-инструменту

Ученые заинтересованы в раскрытии секретов НЛО

Фотография корабля-носителя была поддельной

Что случилось с Линдой Наполитано

Синтезаторы Casio. Сочетание инноваций и доступности

Археология меняет представление о древних цивилизациях

В Вирджинии появились на свет клонированные животные

В поисках темной материи появилась новая стратегия

Где именно на Марсе смогут зацвести деревья

Жертва похищения инопланетянами подала в суд на Netflix

Жуткие леса–призраки отравляют все, попадающее в них

Загадка ольмекских голов Мезоамерики

Звук смещения полюсов Земли

Инверсионные следы и воздействие на климат

Инопланетная конспирология в бывшем Советском Союзе

Инопланетный разум существует и взаимодействует с нами

Клуб 27 - это миф

Крошечные фрагменты астероида раскрывают его историю

Лицо 400-летней женщины-вампира

На Титане может существовать жизнь

НЛО посещали каждую крупную ракетно-ядерную базу

Океан, полный инопланетян, на спутнике Урана

Опасное время Скорпиона

Плазменные сущности могут быть внеземной жизнью

Предсказание Эйнштейна о безмассовых гравитонах

Программа поиска инопланетных технологий

Сатанинские лунные сутки и новолуние

Серия наблюдений НЛО в Миссури вызывает недоумение

Судьи посмеялись, когда мужчина заявил, что он оборотень

Темный волк замечен в черном небе

Топ самых важных пророчеств Ванги и Нострадамуса

У ЦРУ есть секретный способ выводить из строя корабли

Упущенный ключ к разгадке посмертной маски Тутанхамона

Черная дыра поглощает материю с невиданной скоростью

Черные дыры бросают вызов предположениям Керра

Астрофизик опроверг популярные мифы о НЛО

Безликие пришельцы похитили двух женщин в Лос-Анджелесе

Белый дом населен духами и призраками

В небе над Самарой засекли неопознанный летающий объект

В штате Орегон часто наблюдают НЛО

Древняя Земля имела богатую органикой атмосферу

Загадка облака, похожего на НЛО

Информатор признал, что НЛО был поддельный

Как меня однажды похитили инопланетяне

Компании Netflix грозит судебный иск из-за лжи об НЛО

Космические телескопы изучают жуткую пару галактик

Метеорит-убийца оказал Земле огромную услугу

Над Новой Зеландией появилось облако в форме НЛО

Первый контакт с инопланетянами в Карбондейле

Поиски разгадки тайны, стоящей за рождением Вселенной

Правительство Австралии скрывало информацию об НЛО

Предсказание орбит опасных комет по метеорным потокам

Путь для быстрой космической связи

Разоблачитель показал фото инопланетного корабля-носителя

Раскроют ли Трамп или Харрис правду о НЛО

Самолет ВМС США столкнулся с НЛО

Система Веги оказалась планетарной пустыней

Создают самую красочную космическую карту

Солнечное затмение запечатлели с Марса

Танец электронов в свечении взрывающихся нейтронных звезд

Топливо для кошмаров

Уникальное племя Зимбабве и их генетическое наследие

Холодный, пустынный ландшафт кратера Езеро на Марсе

Хэллоуин традиционно отмечается во многих странах

Ярославцев напугало НЛО над Дядьково

Розетки. Важные аспекты и современные технологии

В горных породах может скрываться темная материя

В нашей галактике может быть шесть техноцивилизаций

В Северной Ирландии растет паранормальная активность

Владелица ресторана замаскировалась под робота

Волосы ангела и паутина в небе

Доказали, что HD 28185 - не коричневый карлик, а планета

Затерянный город обнаружен в мексиканских джунглях

Инопланетяне готовят интервенцию на Землю

Информатор опубликовал фото инопланетного корабля

Информацию об НЛО необходимо обнародовать

Лазерное отслеживание космического мусора

Марс был пригоден для жизни гораздо раньше

Марсоход успешно продолжает исследования

Мой отец был убийцей Зодиак

На Туринской плащанице изображен не лик Иисуса

Необычное облако всегда появляется в одном и том же месте

Новый способ анализа мощных космических взрывов

Обнаружили одну из самых быстро вращающихся звезд

Под поверхностью Миранды может быть океан

Похищенная инопланетянами женщина подала в суд на Netflix

Призраки вымирают, потому что существуют всего 100 лет

Путешествие по американской дороге паранормальных явлений

Расследование деятельности инопланетян в Бразилии

Расшифровали эксперементальный 'внеземной' сигнал

Солнечный коронограф запустят на МКС

Стали известны самые жуткие места Великобритании

Тайна странных огней и НЛО в Рендлшемском лесу

Удалось заснять стаю НЛО вблизи базы ВВС США

Удивительная турбулентность в молекулярных облаках

Экзорцизм - оружие, которое демоны ненавидят

История роялей. Эволюция и развитие

Адский лес Тейт во Флориде

Безумный план по спасению человечества

В кофейне появляются таинственные следы

Подписка на новости
Наверх
Яндекс.Метрика