|
ИИ может смягчить предвзятое отношение к женщинам
|
|
|
|
Недавнее исследование, проведенное Университетом Бата, показывает, что дискриминация в отношении женщин усиливается, если кредиторы используют искусственный интеллект (ИИ) для получения займов, но этичные кредиторы могут изменить алгоритмы ИИ, чтобы устранить эту предвзятость и при этом повысить свою прибыль, а также репутацию своего бренда.
|
|
|
|
Исследование роли комиссий salesforce в принятии решений о выдаче кредитов в автосалонах Канады показало, что использование искусственного интеллекта значительно повышает прибыль кредиторов и не усиливает существующие предубеждения в отношении групп клиентов, которые традиционно были маргинализированы обществом, за явным исключением женщин.
|
|
|
|
"Мы обнаружили, что кредиторы могут увеличить прибыль, применив методы машинного обучения к тысячам автокредитов. Однако у этой прибыли есть и существенный недостаток: искусственный интеллект может сделать сделки по автокредитованию непропорционально менее выгодными для женщин, усугубляя социальную несправедливость в системе", - сказал доктор Кристофер Амарал из Школы менеджмента университета.
|
|
|
|
Исследование показало, что кредиторы, использующие искусственный интеллект для оптимизации комиссионных salesforce, могут увеличить годовую прибыль до 8%, но это обходится женщинам дороже. Однако исследователи выявили, что предвзятое отношение к женщинам можно было бы смягчить, изменив алгоритмы искусственного интеллекта, лежащие в основе комиссионных за продажи, и при этом увеличить прибыль до 4%.
|
|
|
Исследователи запрограммировали алгоритм машинного обучения таким образом, чтобы максимизировать прибыль, одновременно ограничивая его, чтобы женщины не оказывались в еще большем неблагоприятном положении. Они обнаружили, что организации все еще могут увеличивать свою прибыль, привлекая к ней представителей немаргинализированной группы — мужчин.
|
|
|
|
"Это подчеркивает положительное влияние, которое ИИ может оказывать на социальное обеспечение, в то же время принося пользу фирмам как за счет немедленного увеличения прибыли, так и за счет долгосрочных репутационных выгод благодаря справедливому, социально ответственному поведению", - сказал доктор Амарал, автор исследования в области управления производством и операциями, озаглавленного "Оптимизация ценообразования". внешним продавцам через комиссионные: эмпирическое исследование".
|
|
|
|
Доктор Амарал сказал, что предвзятое отношение к женщинам в этом секторе хорошо задокументировано: недавние исследования показали, что продавцы договариваются о менее выгодных условиях кредитования для женщин, чем для мужчин. Некоторые исследования предполагают, что такой результат может быть вызван предположением продавцов о том, что женщины менее способны оценить справедливость условий кредитования из-за того, что они меньше, чем мужчины, знают о конкретных видах продуктов, таких как автокредиты, а также из-за того, что женщины не так напористы, как мужчины.
|
|
|
|
"Чтобы смягчить несправедливость и избежать действий регулирующих органов, может показаться, что разумнее всего компаниям вообще держаться подальше от ИИ, но это приносит в жертву увеличение прибыли, возможное с помощью инструментов ИИ. Мы бы сказали, что есть промежуточный путь — ИИ можно использовать более ответственно, чтобы сбалансировать прибыль и социальную справедливость", - сказал доктор Амарал.
|
|
|
|
"Нет сомнений в том, что бездумное использование ИИ может усугубить дискриминацию в отношении женщин. Но при ответственном использовании ИИ не представляет такой угрозы, какой его часто представляет общество. Вместо того чтобы ограничивать использование искусственного интеллекта, мы должны поощрять фирмы использовать его ответственно, гарантируя, что это принесет пользу как их бизнес-целям, так и социальной справедливости", - сказал д-р Амарал.
|
|
|
|
Источник
|
