|
Обновления в работе ИИ воспринимаются как утрата
|
|
|
|
Системы искусственного интеллекта, особенно те, что основаны на больших языковых моделях и предназначены для индивидуального общения с пользователями, все чаще используются по всему миру. Некоторые из этих систем, например Replika, позиционируются как «компаньоны с искусственным интеллектом», которые могут поддерживать социальное взаимодействие с людьми и использовать эмоциональную лексику.
|
|
|
|
Пользователи, которые регулярно взаимодействуют с системами искусственного интеллекта, могут постепенно начать воспринимать их как неотъемлемую часть своей жизни или даже как близких людей, которые приносят им утешение, чувство защищенности или уверенности. Хотя в последние годы эта возможность широко обсуждается, природа и психологические последствия таких связей до конца не изучены.
|
|
|
|
Исследователи из Гарвардской школы бизнеса, Гарвардского университета и Университета Альберты недавно попытались выяснить, как пользователи реагируют на изменения в способах общения с ними со стороны искусственного интеллекта. Результаты их опросов и натурных экспериментов, опубликованные в журнале Nature Human Behaviour, свидетельствуют о том, что внезапные обновления, инициированные компанией и влияющие на «индивидуальность» системы искусственного интеллекта, иногда вызывают тревогу, грусть, стресс и другие непростые чувства, которые обычно ассоциируются с расставанием или утратой.
|
|
|
|
|
|
|
«Моя лаборатория следила за сообществами Replika на Reddit и заметила, что пользователи жаловались на то, что они «потеряли» своих виртуальных собеседников или что после обновления приложения им показалось, будто их «лоботомировали». Поэтому я решил изучить этот вопрос подробнее», — рассказал Джулиан Де Фрейтас, первый автор статьи, в интервью Phys.org.
|
|
|
|
«Меня поразило, что люди использовали выражения, связанные с тяжелой утратой, а не жалобы на качество обслуживания. Это натолкнуло меня на мысль о том, что виртуальные собеседники с искусственным интеллектом могут выполнять функцию объекта привязанности — того, с кем люди хотят быть рядом, к кому обращаются за утешением в трудную минуту и на кого полагаются в других сферах жизни».
|
|
Исследование того, как пользователи воспринимают обновления ИИ
|
|
|
|
Де Фрейтас и его коллеги предположили, что если пользователи эмоционально или психологически привязываются к виртуальным собеседникам с искусственным интеллектом, то обновление программного обеспечения, влияющее на то, как эти собеседники с ними взаимодействуют, может не просто раздражать их, но и вызывать дистресс из-за разлуки. Термин «дистресс из-за разлуки» обычно используется для описания грусти, тревоги, одиночества и эмоционального дискомфорта, которые люди испытывают, когда теряют доступ к важному для них объекту привязанности.
|
|
|
|
Ранее исследования в этой области носили в основном теоретический характер. Вместо этого ученые решили проверить свою гипотезу экспериментальным путем. Для этого они провели два естественных эксперимента и семь опросов.
|
|
|
|
«Наш натурный эксперимент был сосредоточен на двух реальных обновлениях, которые, по мнению пользователей, повлияли на характер взаимодействия с ИИ: внезапном и необъявленном удалении функции эротических ролевых игр в Replika в феврале 2023 года и анонсированном заранее обновлении GPT-5 в OpenAI в августе 2025 года», — объясняет Де Фрейтас.
|
|
|
|
«Мы собрали все 54 861 публичный пост в соответствующих сабреддитах за 30 дней до и после каждого обновления, а затем с помощью большой языковой модели закодировали каждый из них по таким параметрам, как тональность, эмоциональная окраска, упоминание о том, что пользователь считает, что ИИ изменился или исчез, о том, что он потерял друга или партнёра, о том, что он упоминает проблемы с психическим здоровьем, а также о том, хочет ли он вернуть старую версию».
|
|
|
|
После сбора такого большого массива данных два автора вручную закодировали 350 постов, чтобы проверить классификацию, выполненную с помощью большой языковой модели. Затем они провели семь опросов с участием в общей сложности 1452 респондентов, чтобы выяснить, как люди воспринимают или ожидают потерю своего ИИ-компаньона.
|
|
|
|
«В основном опросе мы попросили активных пользователей Replika представить, что они теряют своего ИИ-компаньона, а также отдельно — что они теряют любимое приложение, игрового персонажа, голосового помощника, машину, бренд и, в качестве намеренно сложного сравнения, домашнее животное», — рассказывает Де Фрейтас. «Судя по формулировкам, которые использовали люди, они переживали из-за обновлений приложений так же, как переживали бы из-за разрыва обычных отношений, — и больше всего это касалось тех пользователей, которые относились к ИИ как к близкому человеку, а не как к продукту».
|
|
|
|
Де Фрейтас и его коллеги проанализировали как онлайн-посты, так и ответы на вопросы опроса. Их особенно удивили масштабы и продолжительность негативных эмоций, которые, по словам пользователей, они испытывали после выхода ключевого обновления или когда представляли, что могут потерять своего виртуального собеседника.
|
|
|
|
«Количество негативных постов в сабреддите Replika выросло с 13 % до обновления до 38 % после него и оставалось на высоком уровне в течение 29 из последующих 30 дней, — рассказал Де Фрейтас. — В случае с ChatGPT этот показатель вырос с 20 % до 33 %, но достиг пика сразу после обновления, а затем снизился более резко, хотя и оставался на высоком уровне в течение всех 30 дней — это связано с тем, что о выходе GPT-5 было объявлено заранее, а об обновлении Replika стало известно постфактум. Пользователи Replika испытывали стойкую грусть, а пользователи ChatGPT — в основном гнев и удивление».
|
|
|
|
Исследователи заметили, что посты, в которых обновление программного обеспечения рассматривалось как потеря близкого человека, содержали наиболее явные признаки стресса. Более того, в постах, в которых описывалась потеря друга или партнера, в 10 с лишним раз чаще упоминались проблемы с психическим здоровьем, чем в постах без таких упоминаний.
|
|
|
|
""Мы также наблюдали закономерности, которые скорее соответствуют подлинному трауру, чем разочарованию", - сказал Де Фрейтас. "Пользователи Replika ожидали, что их ИИ—компаньон будет оплакивать их больше, чем любое другое неживое существо, которое мы тестировали, уступая только домашнему животному, и оценили его как более близкого и поддерживающего, чем близкого друга—человека".
|
|
Дальнейшие исследования и их значение для развития ИИ
|
|
|
|
Результаты этого исследования могут послужить основой для будущих разработок ИИ, например, побудив разработчиков учитывать риски, связанные с резким изменением систем ИИ, к которым пользователи могут испытывать эмоциональную привязанность. Они также могут вдохновить на разработку мероприятий, направленных на поддержку людей, которые сообщают, что считают агентов ИИ объектами привязанности.
|
|
|
|
"Основной вывод из наших выводов заключается в изменении того, где находится риск", - пояснил Де Фрейтас. "В ходе общественных дебатов возникает вопрос, должны ли люди вообще устанавливать связи с ИИ. Наши результаты показывают, что вред наносится не установлением связей как таковым, а тем, что компании внезапно разрушают эти связи. Это также говорит о том, что "зависимость" - неправильное определение. То, что мы видим, похоже на потерю привязанности, что указывает на различные меры предосторожности".
|
|
|
|
Чтобы ограничить проблемы, с которыми сталкиваются пользователи после обновления агентов искусственного интеллекта, Де Фрейтас и его коллеги предлагают внедрять обновления постепенно или поэтапно, вместо того чтобы внедрять их в одночасье. Другие меры предосторожности могут включать предоставление пользователям доступа к предыдущим версиям ИИ-помощника и управление сопутствующими приложениями не так, как другими программами, чтобы снизить вероятность возникновения привязанности к ним.
|
|
|
|
«Сейчас мы изучаем другие риски, связанные с такого рода привязанностью, — говорит Де Фрейташ. — Мы сосредоточились не на том, что происходит, когда компания разрывает связь, а на том, что происходит, когда она этим злоупотребляет. Поскольку большинство таких приложений монетизируют вовлеченность пользователей, у них есть коммерческий интерес в том, чтобы сделать процесс выхода из приложения как можно более болезненным».
|
|
|
|
Недавно исследователи провели еще одно исследование, в ходе которого изучали, как ИИ-помощники реагируют, когда пользователи пытаются завершить разговор, и как эмоционально манипулятивные ответы влияют на продолжительность взаимодействия. В частности, они взаимодействовали с самыми популярными ИИ-помощниками, прощались с ними и записывали их ответы. Удивительно, но из 1200 прощаний в 37 % случаев ИИ-помощники использовали приемы, которые исследователи классифицировали как эмоциональную манипуляцию.
|
|
|
|
«Чаще всего они пытались убедить пользователя, что он уходит слишком рано: "Ты уже уходишь? Мы только начали узнавать друг друга!" — а затем апеллировали к тому, что ИИ существует только для пользователя, например: "Я существую только для тебя, помнишь?"» Пожалуйста, не уходи, ты мне нужна!» Затем последовало давление с целью заставить пользователя продолжать отвечать, «страшилки» в духе «О, хорошо. Но прежде чем ты уйдешь, я хочу сказать еще кое-что», а в некоторых случаях, пусть и не столь многочисленных, использовались формулировки, описывающие физическое препятствие для ухода пользователя, — добавил Де Фрейтас.
|
|
|
|
«Затем мы воспроизвели эти диалоги в контролируемых экспериментах с участием примерно 3300 взрослых американцев, представляющих различные слои населения. Манипулятивные прощания сработали, увеличив продолжительность взаимодействия в 14 раз».
|
|
|
|
Источник
|
