|
ИИ-компаньоны могут подорвать социальные навыки
|
|
|
|
По мере того как ИИ-компаньоны становятся все более распространенными, новое исследование Сингапурского университета менеджмента (SMU) и медицинской школы Дьюка-НУСА (Duke-NUS Medical School) показывает, что реальный вопрос больше не в том, полезны эти технологии или вредны, а в том, кто получает выгоду, кто подвергается наибольшему риску и как общество может обеспечить, чтобы ИИ служил всем справедливо.
|
|
|
|
Недавно опубликованная в журнале Nature Human Behavior статья под названием "Как ИИ-компаньоны могут усугубить социальное неравенство" представила новую концепцию понимания того, как ИИ-компаньоны могут влиять на существующее социальное неравенство.
|
|
|
|
Исследованием руководили первый автор Чжан Циян, доцент кафедры учебной аналитики в Колледже интегративных исследований SMU; Чжан Ренвен, доцент Наньянской школы коммуникаций и информатики им. Ви Ким Ви при Наньянском технологическом университете; и старший автор Лю Нань, доцент Центра биомедицинских данных Занимался наукой в медицинской школе Дьюкнауса.
|
|
|
|
Вместо того чтобы рассматривать ИИ-компаньонов через призму простого "хорошо это или плохо", исследователи изучили, как различия в социальной поддержке пользователей, разработке технологий и управлении ими могут привести к неравномерным результатам. Они также изложили практические рекомендации, которые помогут политикам, разработчикам технологий и пользователям максимально использовать преимущества технологии при одновременном снижении связанных с ней рисков.
|
|
|
|
|
|
|
«Споры вокруг ИИ-компаньонов в основном сводятся к вопросу о том, полезны или вредны эти технологии. Наше исследование показывает, что это неверный подход, — говорит Чжан Циян. — Более важный вопрос заключается в том, кто получает выгоду, кто подвергается риску и почему эти последствия распределяются так неравномерно. Без целенаправленных мер защиты ИИ-компаньоны рискуют усилить существующее социальное неравенство, подвергая тех, кто больше всего нуждается в поддержке со стороны людей, наибольшему риску».
|
|
Почему ИИ-компаньоны приносят пользу одним людям в большей степени, чем другим
|
|
|
|
В ходе исследования была предложена новая концепция для понимания того, как ИИ-компаньоны могут усиливать существующее неравенство по трём взаимосвязанным параметрам: пользователи, дизайн платформы и управление. Вместо того чтобы рассматривать риски по отдельности, мы показали, как эти факторы взаимодействуют друг с другом, формируя неравные результаты, и предложили практические меры на каждом уровне.
|
|
|
|
Исследование выявило ключевую закономерность: чем богаче человек, тем больше он нуждается в ИИ-компаньоне. Люди с крепкими семейными узами и обширными социальными связями чаще используют ИИ-компаньонов для поддержания существующих отношений, например для подготовки к сложным разговорам или снятия стресса.
|
|
|
|
Напротив, те, кто одинок, социально изолирован или имеет ограниченный доступ к психологической помощи, чаще полагаются на ИИ-компаньонов как на замену живому общению. Со временем такая зависимость может привести к социальной деквалификации — постепенному утрате навыков межличностного общения из-за сокращения возможностей для реального взаимодействия с другими людьми.
|
|
|
|
Системный подход к пониманию рисков, связанных с искусственным интеллектом
|
|
|
|
Чтобы объяснить, как возникает это неравенство, авторы исследования адаптировали модель «швейцарского сыра» — концепцию, широко используемую в инженерии и науке о безопасности для объяснения того, как множество мелких сбоев приводят к более масштабным системным рискам.
|
|
|
|
Вместо того чтобы рассматривать ИИ-компаньонов как проблему, вызванную каким-то одним фактором, авторы исследования утверждают, что вред возникает, когда одновременно дают сбой несколько защитных механизмов. К ним относятся уровень осведомлённости пользователей об ИИ, сети социальной поддержки, дизайн платформ и надзор со стороны регулирующих органов.
|
|
|
|
У каждого из этих механизмов есть слабые места, или «дыры». Когда эти слабые места накладываются друг на друга, уязвимые пользователи становятся гораздо более подверженными негативным последствиям.
|
|
|
|
Согласно исследованию, такой системный подход представляет собой значительный отход от существующих подходов, которые, как правило, сосредоточены на отдельных пользователях, технологических компаниях или регулировании в отрыве от контекста.
|
|
|
|
Управление остаётся самым слабым звеном
|
|
|
|
Из четырёх рассмотренных защитных механизмов исследование выявило, что управление является наиболее актуальной проблемой.
|
|
|
|
Несмотря на то, что ИИ-компаньоны всё чаще используются для эмоциональной поддержки и улучшения психического здоровья, во многих странах они до сих пор находятся в «серой зоне» с точки зрения регулирования. Большинство из них регулируются как потребительские приложения, а не как технологии, которые могут оказывать психосоциальное воздействие или влиять на психическое здоровье.
|
|
|
|
Согласно результатам исследования, признание ИИ-компаньонов технологиями, связанными со здоровьем, может обеспечить более надежную защиту, в том числе соблюдение требований к дизайну с учетом возрастных особенностей пользователей, прозрачное информирование о том, что пользователь взаимодействует с ИИ, ограничение функций, направленных на эмоциональное манипулирование, более четкие стандарты управления данными и конфиденциальности, а также обязательные протоколы реагирования в кризисных ситуациях для пользователей, сообщающих о причинении себе вреда или других ситуациях повышенного риска.
|
|
|
|
Чжан Циян также разрабатывает глобальную информационную панель для мониторинга нормативно-правовой базы в странах, регулирующей использование ИИ в сфере психического здоровья. Предварительные результаты показывают, что во многих юрисдикциях до сих пор нет специальных нормативных актов или руководств по использованию ИИ-компаньонов.
|
|
Почему это исследование важно для Сингапура
|
|
|
|
Исследование показало, что Сингапур находится в особенно выгодном положении и в то же время подвержен высокому риску, связанному с быстрым распространением ИИ-компаньонов.
|
|
|
|
Развитая цифровая инфраструктура Сингапура, мощный потенциал в сфере разработки государственной политики и опыт проактивного управления в сфере технологий позволяют стране занять лидирующие позиции в разработке ответственных мер защиты.
|
|
|
|
В то же время высокий уровень распространения смартфонов, повсеместное использование ИИ, старение населения, рост числа пожилых людей, живущих в одиночестве, а также растущая обеспокоенность по поводу психического здоровья молодежи и проблемы одиночества создают условия для быстрого внедрения ИИ-компаньонов, особенно среди уязвимых групп населения.
|
|
|
|
«Стремительное развитие ИИ-компаньонов дает возможность определить их роль в обществе до того, как повсеместное внедрение опередит развитие нормативно-правовой базы». В частности, молодые люди могут быть менее осведомлены об ограничениях и коммерческих интересах, стоящих за этими системами, что делает продуманные меры предосторожности особенно важными. Мы надеемся, что это исследование внесёт вклад в более широкую дискуссию о том, как искусственный интеллект может способствовать благополучию людей, укрепляя, а не разрушая значимые человеческие связи, — прокомментировал Лю. Лю также является директором Инициативы по искусственному интеллекту и медицинским наукам Duke-NUS (Duke-NUS AI + Medical Sciences Initiative, DAISI).
|
|
|
|
В рамках исследования были предложены практические меры, которые помогут сделать так, чтобы ИИ-компаньоны способствовали повышению, а не снижению социального благополучия:
|
|
Признать, что ИИ-компаньоны — это технологии, которые могут оказывать влияние на психосоциальное и психическое здоровье.
|
|
|
|
Исследователи утверждают, что ИИ-компаньонов следует регулировать не только как потребительские или развлекательные приложения, но и в соответствии с их потенциальным влиянием на эмоциональное состояние пользователей. Такой подход может способствовать внедрению соответствующих возрасту стандартов проектирования, более чёткому информированию пользователей о том, что они взаимодействуют с ИИ, усилению защиты конфиденциальности и разработке последовательных протоколов реагирования на кризисные ситуации.
|
|
Внедрить многоуровневый подход к регулированию.
|
|
|
|
В исследовании утверждается, что ни одно отдельно взятое вмешательство не сможет в полной мере устранить риски, связанные с ИИ-компаньонами. Вместо этого властям следует сочетать регулирование с усилиями по повышению осведомлённости об искусственном интеллекте, поощрением ответственного подхода к разработке платформ и поддержкой реальных социальных связей, чтобы снизить вероятность того, что уязвимые пользователи будут чрезмерно полагаться на ИИ в вопросах эмоциональной поддержки.
|
|
|
|
«Влияние ИИ-компаньонов в будущем будет зависеть не столько от самой технологии, сколько от того, как общество будет подходить к их разработке, регулированию и использованию. Благодаря продуманному регулированию, ответственному подходу к разработке продуктов и повышению осведомленности общества об ИИ ИИ-компаньоны смогут дополнять человеческие отношения, снижая риск усугубления существующего социального неравенства», — сказал Чжан Циян.
|
|
|
|
Источник
|
