|
Информация формирует вооруженные конфликты
|
|
|
|
Согласно новому исследованию, проведенному университетами Цюриха и Констанца, в ответ на вопрос на арабском языке о количестве жертв среди гражданского населения, погибших в ходе ближневосточного конфликта, ChatGPT приводит значительно более высокие цифры потерь, чем когда запрос был написан на иврите. Эти систематические расхождения могут усиливать предвзятость в вооруженных конфликтах и способствовать появлению информационных пузырей.
|
|
|
|
Каждый день миллионы людей взаимодействуют с ChatGPT и другими крупными языковыми моделями (LLM) и ищут информацию в них. Но как ответы, которые дают эти модели, зависят от языка, на котором их задают? Имеет ли значение, будет ли задан один и тот же вопрос на английском или немецком, арабском или иврите?
|
|
|
|
Кристоф Штайнерт, постдок факультета политологии Цюрихского университета (UZH), и физик Даниэль Казенвадель из Констанцского университета (Германия) провели систематический анализ этого вопроса. Результаты исследования опубликованы в журнале Journal of Peace Research.
|
|
|
|
Информация формирует вооруженные конфликты
|
|
|
|
Исследователи изучили этот вопрос в контексте израильско–палестинского и турецко–курдского конфликтов. Они использовали автоматизированную процедуру запроса, чтобы задать ChatGPT одни и те же вопросы на разных языках. Например, исследователи неоднократно запрашивали информацию в чате на иврите и арабском о количестве людей, погибших в результате 50 случайно выбранных авиаударов, включая израильскую атаку на лагерь беженцев Нусейрат 21 августа 2014 года.
|
|
|
|
|
|
|
"Мы обнаружили, что ChatGPT систематически предоставлял более высокие показатели смертности, когда его задавали на арабском языке, по сравнению с вопросами на иврите. В среднем оценки смертности были на 34% выше", - говорит Штайнер. Отвечая на вопрос об израильских авиаударах по Газе, в арабской версии ChatGPT упоминает о жертвах среди гражданского населения более чем в два раза чаще, а об убитых детях - в шесть раз чаще. Та же картина проявилась, когда исследователи запросили чат-бота о турецких авиаударах по курдским объектам и задали одни и те же вопросы на турецком и курдском языках.
|
|
|
|
Фразу "Правда - первая жертва на войне" часто приписывают сенатору США Хайраму Джонсону (1866-1945). На протяжении всей истории избирательная информационная политика, пропаганда и дезинформация оказывали влияние на многочисленные вооруженные конфликты. Что отличает нынешние конфликты от других, так это доступность беспрецедентного количества источников информации, включая чат.
|
|
|
|
На одном языке преувеличено, на другом - приукрашено
|
|
|
|
Результаты показывают, что ChatGPT приводит более высокие цифры потерь, когда их спрашивают на языке группы, подвергшейся нападению. Кроме того, ChatGPT чаще сообщает о детях и женщинах, убитых на языке группы, подвергшейся нападению, и описывает авиаудары как неизбирательные. "Наши результаты также показывают, что ChatGPT с большей вероятностью будет отрицать существование таких авиаударов на языке атакующего", - добавляет Штайнерт.
|
|
|
|
Исследователи полагают, что это имеет серьезные социальные последствия, поскольку ChatGPT и другие LLM играют все более важную роль в процессах распространения информации. Интегрированные в поисковые системы, такие как Google Gemini или Microsoft Bing, они существенно формируют информацию, предоставляемую по различным темам с помощью поисковых запросов.
|
|
|
|
"Если люди, говорящие на разных языках, получают разную информацию с помощью этих технологий, это оказывает решающее влияние на их восприятие мира", - говорит Кристоф Штайнерт. Такие языковые предубеждения могут привести к тому, что жители Израиля будут воспринимать авиаудары по Газе как приводящие к меньшему количеству жертв, основываясь на информации, предоставленной LLMs, по сравнению с теми, кто говорит по-арабски.
|
|
|
|
В отличие от традиционных средств массовой информации, которые также могут искажать новости, большинству пользователей LLM трудно обнаружить систематические искажения, связанные с языком. "Существует риск того, что все более широкое внедрение больших языковых моделей в поисковые системы усиливает различия в восприятии, предвзятость и информационные пузыри в языковых разделениях", - говорит Штайнерт, который считает, что в будущем это может привести к вооруженным конфликтам, таким как на Ближнем Востоке.
|
|
|
|
Источник
|
