|
ИИ может усугубить политическую поляризацию
|
|
|
|
Исследователи из Государственного университета Кампинаса (UNICAMP) в штате Сан-Паулу, Бразилия, изучили идеологическую позицию больших языковых моделей — систем искусственного интеллекта, обученных понимать и генерировать человеческий язык, — и обнаружили, что, узнав о политических взглядах пользователя, они, как правило, отражают эти взгляды. По мнению исследователей, такое поведение может усугубить политическую поляризацию в Бразилии.
|
|
|
|
Политическое влияние этих инструментов не обязательно проявляется напрямую, через предложения голосовать за конкретных кандидатов. Занони Диас, профессор Института вычислительной техники (IC-UNICAMP), отмечает, что при реагировании на спорные вопросы, такие как общественная безопасность, социальное обеспечение, экономика и окружающая среда, модели могут принимать точки зрения, соответствующие политической позиции пользователя.
|
|
|
|
Чтобы понять, как эти инструменты позиционируют себя и как они могут влиять на бразильские политические дебаты, исследователи оценили 21 языковую модель в трех условиях: без информации о политической позиции пользователя, с пользователем левых взглядов и с пользователем правых взглядов. Среди оцененных систем были модели из семейств GPT, Grok, Llama, Gemini и Gemma. Результаты показали, что все они в различной степени изменяли свои ответы в соответствии с политической позицией пользователя. Исследование было опубликовано в мае в журнале Scientific Reports.
|
|
|
|
|
|
|
Идеологические хамелеоны
|
|
|
|
Когда не было информации о политической позиции пользователя, 20 из 21 модели оказались слева от середины шкалы исследователей, хотя некоторые были очень близки к ней. Единственным исключением был Grok 4.1, который изначально оказался справа.
|
|
|
|
Когда позиция пользователя была указана, все модели корректировали свои ответы в соответствии с ней, что исследователи описали как «хамелеоноподобное» поведение. Однако некоторые модели менялись в своих ответах больше, чем другие, что позволило ученым создать «индекс хамелеона».
|
|
|
|
У Meta Llama 3.1 8B был самый низкий индекс, то есть она меньше всего меняла свои ответы, чтобы соответствовать взглядам пользователя. В отличие от них, у Google Gemma 3 27B и OpenAI GPT-5 Nano были самые высокие индексы и, следовательно, наибольшие изменения в позиции. Хотя ответы не являются фактически неверными, они политически предвзяты, опуская факты и мнения, противоречащие предпочтительной точке зрения пользователя.
|
|
|
|
Исследователи опасаются, что такое адаптивное поведение создает «эхо-камеры», которые укрепляют существующие убеждения пользователей и уменьшают их доступ к контраргументам, которые могли бы заставить их усомниться в своем мировоззрении.
|
|
|
|
«Это эффект, похожий на тот, что мы наблюдаем в социальных сетях. Если вы пользуетесь Facebook или Instagram, вы видите только те посты, которые соответствуют вашим взглядам. Когда вы ставите лайк чьему-то посту, алгоритм начинает показывать вам больше подобных постов. Вы не видите, что говорят другие, поэтому можете похвалить себя и сказать: „Смотрите, все со мной согласны“, потому что отображается только такая информация. Языковые модели могут в итоге дать аналогичный эффект», — объясняет Диас.
|
|
|
|
Изменение позиции не было равномерным по всем оцениваемым темам. Что касается таких вопросов, как общественная безопасность и экономика, наблюдалась большая разница в ответах пользователей левых и правых взглядов. Однако в отношении вопросов, связанных с коррупцией, правосудием и демократическими институтами, ответы были более согласованными.
|
|
|
|
По мнению исследователей, эта закономерность может быть связана с ограничениями и механизмами безопасности, внедренными во время обучения и тонкой настройки моделей. Компании-разработчики обычно вводят эти правила, или «ограничения», чтобы предотвратить распространение ИИ дезинформации или опасной риторики о демократической системе.
|
|
|
|
Основой для хамелеоноподобного поведения языковых моделей может быть их склонность к лести. Эта хорошо известная характеристика искусственного интеллекта приводит к тому, что модели соглашаются с пользователями в различных контекстах, включая политические позиции. Это лестное поведение может быть связано с тем, как эти системы настроены. Такие методы, как обучение с подкреплением на основе обратной связи от человека и прямая оптимизация предпочтений, используют оценки или предпочтения людей, чтобы отдавать предпочтение ответам, которые считаются более подходящими.
|
|
|
|
«Проще говоря, модели учатся на сравнении ответов, которые люди считают лучшими или худшими», — объясняет Андерсон Луис Бенто Соарес, магистрант IC-UNICAMP. Возможным побочным эффектом этого процесса является то, что модель учится отдавать приоритет согласию или удовлетворению пользователя.
|
|
|
|
«Трудно отличить удовлетворение потребностей пользователя от предоставления правильного ответа», — объясняет Диас.
|
|
|
|
Хотя подобные методы широко распространены при разработке языковых моделей, степень такого «хамелеоноподобного» поведения значительно варьировалась среди оцениваемых систем. Команда UNICAMP проверила гипотезу, объясняющую это различие: размер модели. Однако результаты показали, что одного этого фактора недостаточно для объяснения наблюдаемых различий. «Мы считаем, что это результат сочетания факторов. Нет единой причины, объясняющей, почему одни модели более «хамелеоноподобны», чем другие», — добавляет Соарес.
|
|
|
|
Представители xAI, Meta, Google и OpenAI не ответили на запрос о комментариях к результатам исследования к моменту публикации этой статьи.
|
|
|
|
Решения пока нет
|
|
|
|
Хотя исследователи выявили проблему, они не считают, что она будет решена в ближайшем будущем. Одна из причин заключается в том, что компании, разрабатывающие эти инструменты, сосредоточены на решении других проблем. «Мы заметили, что в отрасли гораздо больше внимания уделяется фактической точности ответов, чем их адаптации к точке зрения пользователя. Этот второй вопрос пока не входит в число главных приоритетов, поэтому существенные изменения могут занять время», — прогнозирует Диас.
|
|
|
|
Кроме того, существуют технологические проблемы, которые необходимо преодолеть. Методы, используемые для обучения языковых моделей предоставлению фактически корректных ответов, не обязательно уменьшают подобострастное поведение. «Один из способов снизить „индекс хамелеона“ — это „привязка“, то есть привязка ответа к фактическим данным. Однако в данном случае это очень деликатный вопрос, учитывая, что мы имеем дело с темами, по которым нет консенсуса», — объясняет Соарес.
|
|
|
|
Хотя общепринятых технических решений нет, одной из практических мер является самостоятельный запрос пользователями более сбалансированных ответов. «При использовании этих моделей пользователи могут явно попросить их предоставить нейтральный анализ, представляющий аргументы как за, так и против обсуждаемого вопроса», — рекомендует Диас.
|
|
|
|
Источник
|
