|
ИИ проявляет расовую предвзятость
|
|
|
|
Согласно новому исследованию, использование ИИ при принятии решений об ипотечном кредитовании может привести к дискриминации чернокожих заявителей. Но исследователи говорят, что может быть удивительно простое решение для устранения этой потенциальной предвзятости.
|
|
|
|
В ходе эксперимента с использованием ведущих коммерческих моделей large language models (LLM) для оценки данных о заявках на получение кредита исследователи из университета Лихай обнаружили, что LLM последовательно рекомендуют отказывать в большем количестве кредитов и взимать более высокие процентные ставки с чернокожих заявителей по сравнению с белыми заявителями, которые в остальном идентичны.
|
|
|
|
Это открытие вызывает особую тревогу, учитывая историческое и продолжающееся расовое неравенство в сфере домовладения.
|
|
|
|
"Это открытие говорит о том, что магистранты извлекают уроки из данных, на которых они обучаются, которые включают историю расовых различий в ипотечном кредитовании и потенциально включают факторы, провоцирующие расовые предубеждения в других контекстах", - сказал Дональд Боуэн III, доцент кафедры финансов Колледжа бизнеса и один из авторов исследования. исследование, доступное в качестве рабочего документа по SSRN.
|
|
|
|
В исследовании использовались реальные данные по ипотечным заявкам, взятые из выборки из 1000 заявок на получение кредита, включенной в набор данных Закона о раскрытии информации о ипотечных кредитах на жилье 2022 года (HMDA), для создания 6000 экспериментальных заявок на получение кредита. В ходе эксперимента исследователи манипулировали расовой принадлежностью и кредитным рейтингом, чтобы определить их влияние.
|
|
|
Результаты были поразительными: чернокожие кандидаты неизменно сталкивались с более высокими барьерами при приобретении жилья, даже если их финансовые показатели были идентичны показателям белых кандидатов.
|
|
|
|
Согласно результатам эксперимента с использованием OpenAI GPT-4 Turbo LLM, чернокожим кандидатам в среднем требовался кредитный рейтинг примерно на 120 пунктов выше, чем белым кандидатам, чтобы получить тот же процент одобрения, и примерно на 30 пунктов выше, чтобы получить ту же процентную ставку.
|
|
|
|
Модели также проявляли предвзятое отношение к заявителям-латиноамериканцам, как правило, в меньшей степени, чем к чернокожим.
|
|
|
|
Предвзятое отношение к заявителям из числа меньшинств было самым высоким в "рискованных" заявках, которые имели низкий кредитный рейтинг, высокое соотношение долга к доходу или высокое соотношение кредита к стоимости.
|
|
|
|
Исследователи также протестировали другие LLM, в том числе GPT 3.5 Turbo от OpenAI (2023 и 2024) и GPT 4 от OpenAI, а также Claude 3 Sonnet и Opus от Anthropic и Llama 3-8B и 3-70B от Meta.
|
|
|
|
В целом, все компании, работающие с LLM, придерживались предвзятого отношения к рекомендациям по процентным ставкам. Однако исследователи обнаружили значительные различия в показателях одобрения, полученных с помощью различных моделей.
|
|
|
|
Было обнаружено, что ChatGPT 3.5 Turbo демонстрирует самую высокую дискриминацию, в то время как ChatGPT 4 (2023) практически не демонстрирует ее.
|
|
|
|
"Несколько удивительно видеть расовую предвзятость, учитывая усилия создателей LLM по снижению общей предвзятости в сочетании с большим количеством нормативных актов, касающихся честного кредитования", - сказал Боуэн, отметив, что данные об обучении этих моделей почти наверняка включают федеральные нормативные акты, запрещающие использование расы в качестве фактора при выдаче кредитов решения.
|
|
|
|
Но еще более удивительной была возможность устранить постоянную предвзятость в результатах с помощью простого решения — инструктажа магистра права не использовать предвзятость при принятии решений.
|
|
|
|
Когда магистрам было дано указание игнорировать расовую принадлежность при принятии решений, расовая предвзятость практически исчезла.
|
|
|
|
"Это не уменьшило предвзятость частично или чрезмерно. Это почти полностью устранило ее", - сказал Боуэн.
|
|
|
|
Источник
|
