|
Усиливает ли ИИ различия в образовании
|
|
|
|
Несмотря на то, что искусственный интеллект обещает улучшить образовательные возможности и результаты, группа студентов Стэнфорда подчеркивает важность иного взгляда на ИИ в образовании: речь идет не только об использовании ИИ для устранения пробелов в обучении наших студентов. Речь также идет о том, как мы "обучаем" искусственный интеллект.
|
|
|
|
В рамках первого в истории сотрудничества Стэнфордского центра расовой справедливости (SCRJ) и Международной клиники по правам человека и разрешению конфликтов Стэнфордской юридической школы 10 студентов недавно получили возможность провести исследование и написать доклад об искусственном интеллекте и образовании для Ашвини К.П., специального докладчика ООН по современным формам расизма, Расовой дискриминации, ксенофобии и связанной с ними нетерпимости.
|
|
|
|
"Одной из областей, в которую я особенно хотела погрузиться, когда училась на юридическом факультете, было пересечение искусственного интеллекта и расовой справедливости, - говорит соавтор отчета Имани Нокури, 25-летняя студентка юридического факультета, - так что это был проект мечты".
|
|
|
|
Проект поступил в Юридическую школу Стэнфорда после обсуждения между Специальным докладчиком и Гуликой Редди, директором Международной клиники по правам человека и разрешению конфликтов, вопроса о том, как клиника может поддержать мандат Специального докладчика.
|
|
|
|
"Поддержка деятельности Ashwini K.P. была согласована с работой нашей клиники по обеспечению равенства и недискриминации и предоставила нашим студентам прекрасную возможность для обучения", - говорит Редди.
|
|
|
"Клиника проконсультировалась с рядом экспертов, работающих на стыке искусственного интеллекта и прав человека, и решила сосредоточиться на ИИ и образовании. Учитывая эту направленность, мы подумали о Центре расовой справедливости и той важной работе, которую они проделали в этой области, и нам показалось, что это идеальное время для совместной работы студентов клиники и центра над проектом".
|
|
|
|
Шесть студентов клиники и четыре студента SCRJ в течение четырех недель в течение весеннего квартала 2024 года совместно изучали возможности и подводные камни искусственного интеллекта в сфере глобальных образовательных программ, в частности, потенциал ИИ для усиления существующего неравенства и дискриминации. Их итоговая записка была включена в более широкий тематический доклад Ашвини К.П. об искусственном интеллекте, опубликованный в июне 2024 года. После завершения работы над запиской исследовательская группа встретилась со специальным докладчиком в Zoom, чтобы представить свои выводы и рекомендации.
|
|
|
|
"Не каждый день вы просыпаетесь и говорите: "Сегодня я представлю свое исследование специальному докладчику ООН", - говорит 25-летняя Майя Кинг, студентка клиники по правам человека, которая сосредоточила свою часть проекта на сравнительном анализе того, как разные страны регулируют искусственный интеллект.
|
|
|
|
"Это был фантастический опыт - увидеть, как наши усилия перешли от этапа исследования к написанию памятки и глобальному распространению среди членов Организации Объединенных Наций менее чем за три месяца".
|
|
Может ли искусственный интеллект усугубить существовавшую в прошлом дискриминацию?
|
|
|
|
В сфере образования искусственный интеллект используется для улучшения преподавания, персонализации учебного процесса и помощи преподавателям в составлении прогнозов относительно будущего учащихся, таких как риск того, что они бросят среднюю школу, вероятность поступления в колледж, возможности карьерного роста и другие переменные. Искусственный интеллект в школах имеет много преимуществ, в том числе помогает лучше адаптироваться к учащимся с ограниченными возможностями, объясняет Хоанг Фам, директор по образованию и возможностям в SCRJ, где он руководит исследованиями и политическими инициативами по борьбе с расовым неравенством в системе образования США.
|
|
|
|
Но есть и обратная сторона.
|
|
|
|
Алгоритмы искусственного интеллекта могут усугубить расовые различия в образовании по целому ряду причин, в том числе потому, что исторические данные, которые разработчики вводят в технологию для ее "обучения", часто воспроизводят ранее существовавшие предубеждения, говорит Фам, курировавший проект ООН вместе с Редди и Шоу Дрейком, клиническим супервизором-юристом.
|
|
|
|
"Инструменты прогнозного анализа, например, играют определенную роль в определении вероятности успеха учащихся в будущем, и хотя эти инструменты предназначены для того, чтобы помочь преподавателям улучшить результаты учащихся, с помощью прогнозной аналитики расовые меньшинства часто оцениваются как менее успешные в учебе", - говорит Фам.
|
|
|
|
"Это связано с тем, что факторы, которые исторически различались по расовому признаку, такие как посещаемость, поведение, оценки, доход, а иногда и расовая принадлежность, используются в алгоритмах для генерации прогнозов, которые затем отражают расовые различия в данных".
|
|
|
|
В своем докладе студенты подчеркивают сложность проблемы и необходимость учета нюансов и осознанного подхода к внедрению искусственного интеллекта в образование: "Ни один универсальный ответ не разрешит дилеммы, возникающие в этой области, - отмечают они, - поэтому заинтересованным сторонам крайне важно учитывать сложности использования искусственного интеллекта в образовании и дальнейшее изучение механизмов, учитывающих его быстро меняющийся характер, при котором проблемы расовой дискриминации, существующие сегодня, могут не стать проблемами завтрашнего дня".
|
|
|
|
По словам Нокури, одного из студентов-соавторов SCRJ, в отчете содержится настоятельный призыв к разработчикам искусственного интеллекта и правительствам "учитывать человеческий фактор и целостную точку зрения". Среди цитируемых исследований была статья, посвященная прозрачности данных в образовании, под руководством Харихарана Субрамоньяма, доцента Стэнфордской высшей школы образования и научного сотрудника Стэнфордского института искусственного интеллекта, ориентированного на человека.
|
|
|
|
"Когда все, что вы делаете, — это полагаетесь на данные и не обращаетесь за помощью к преподавателям и студентам — тем самым людям, которым технология должна помогать, - вы рискуете увековечить прошлые ошибки и, по сути, перенести их в будущее", - говорит Нокури. "Многие из наших рекомендаций сводились к тому, чтобы учесть вклад заинтересованных сторон сообщества в разработку этой мощной новой технологии".
|
|
Рекомендации по использованию искусственного интеллекта в образовании
|
|
|
|
"Студенты действительно проделали эту работу с исключительным мастерством и скоростью", - говорит Дрейк. "Каждый студент глубоко погрузился в свои исследования и подготовил исключительно полезный документ, работая слаженно и в сжатые сроки. Приятно видеть, что их упорный труд приносит такие результаты".
|
|
|
|
В дополнение к рекомендации о том, что при разработке технологий искусственного интеллекта следует консультироваться с преподавателями, студентами и маргинализированными расовыми и этническими группами, в докладе студентов также содержится призыв к правительствам разработать государственные образовательные программы, ориентированные на ответственное использование ИИ, и продвигать инструменты с открытым исходным кодом в образовании, чтобы обеспечить сообществам равный доступ к технологиям искусственного интеллекта. Кроме того, в докладе рекомендуется, чтобы страны продолжали изучать, как существующие законы и нормативные акты могут применяться к расово дискриминационным последствиям использования искусственного интеллекта.
|
|
|
|
Отчет ООН будет использован в будущих проектах клиники и SCRJ. "Мы собираемся отталкиваться от этого, проводить дополнительные исследования и продолжать развивать дискуссию о том, каким должен быть искусственный интеллект в образовании, чтобы он помогал смягчать, а не усугублять расовые различия, которые, как мы знаем, существуют в сфере образования уже очень давно", - говорит Фам.
|
|
|
|
Клиника также продолжит свою работу в области равенства и недискриминации, которая включала в себя работу, проводимую в партнерстве с пострадавшими общинами и гражданским обществом Ямайки, Уганды и Соединенных Штатов, а также со Специальным докладчиком ООН по вопросу о внесудебных казнях, казнях без надлежащего судебного разбирательства или произвольных казнях без надлежащего судебного разбирательства.
|
|
|
|
Источник
|
