|
Использование ИИ для борьбы с системным расизмом
|
|
|
|
ICSR объединяет преподавателей и исследователей из всех пяти школ Массачусетского технологического института и компьютерного колледжа Шварцмана, а также учреждений-партнеров. Проектные группы являются междисциплинарными, в их состав входят коллеги, обладающие опытом в области причинно-следственных связей и разработки механизмов, эксперты в области различных аспектов расы, а также гуманисты и социологи, работающие над коллективным поведением людей и институтов в связи с расовыми проблемами. Опираясь на обширную социологическую литературу о системном расизме, исследовательская деятельность в рамках ICSR использует большие данные для разработки и использования вычислительных инструментов, которые могут помочь осуществить структурные и нормативные изменения в направлении расового равенства. Эти тематические исследования предлагают способы использования возможностей генеративного моделирования, основанного на искусственном интеллекте, для выявления случаев дискриминационной практики, отношения и скрытых предубеждений; прогнозирования результатов; и разработки упреждающих мероприятий, которые уделяют приоритетное внимание вовлечению сообщества и справедливым практикам в полицейской деятельности, здравоохранении и жилищном строительстве.
|
|
|
|
Центральным в исследовании расизма является фундаментальный вопрос: “Остался бы результат конкретного решения неизменным, если бы человек был белым, а не черным?” Представленные ниже приложения для работы в полиции и здравоохранении исследуют, как можно использовать генеративные модели искусственного интеллекта для коррекции предвзятости, присутствующей в данных наблюдений, путем учета ненаблюдаемых искажающих переменных. В частности, мы подчеркиваем возможности использования генеративного искусственного интеллекта для разработки причинно-следственных моделей для получения сложных результатов в ситуациях, когда отсутствуют исчерпывающие данные. Дополнительные приложения, обсуждаемые ниже в области здравоохранения и жилищного строительства, показывают, как выявлять предвзятость и дискриминационные высказывания, демонстрируемые большими языковыми моделями (LLM), которые управляют генеративным ИИ.
|
|
|
Представленные здесь приложения являются убедительными доказательствами концепции для более широкого направления исследований, которые могут проводиться в области генеративного искусственного интеллекта и расы. С этой целью они также указывают на важность расширения такой работы для разработки моделей возмещения ущерба, учитывающих временной аспект, с тем чтобы прояснить эволюцию дискриминационной практики, взглядов и политики с течением времени. Такая работа может дать ценную информацию об исторической траектории развития расизма, а также послужить основой для разработки крупномасштабных политических мер, направленных, в частности, на устранение расовых различий в работе полиции, здравоохранении и жилищном строительстве.
|
|
|
|
Что касается исследований, связанных с расовой справедливостью, то необходимо предпринять активные усилия по выявлению предубеждений, связанных с генеративным ИИ, и борьбе с ними. Способы решения этих проблем могли бы включать использование обучающих наборов, отличающихся по расовому признаку, создание алгоритмов генеративного ИИ, которые были бы прозрачными и поддающимися интерпретации, надзор со стороны регулирующих органов, вовлечение сообщества и просвещение по вопросам генеративного ИИ.
|
|
|
|
Это более масштабное предприятие, соответствующее нормам ICSR Массачусетского технологического института, должно подходить к генеративному ИИ междисциплинарно, обеспечивая этичное использование технологии в качестве дополнительного инструмента в сочетании с более широкими усилиями, предполагающими прямое взаимодействие с заинтересованными сторонами и сообществами. Цель этого направления работы состоит в том, чтобы предложить конкретные идеи для основанных на фактических данных усилий по реформированию, направленных на обеспечение более справедливых возможностей для всех.
|
|
|
|
Источник
|
