|
Чат-боты могут эффективно влиять на избирателей
|
|
|
|
Короткое взаимодействие с чат-ботом может существенно изменить мнение избирателя о кандидате в президенты или предлагаемой политике в любом направлении, говорится в новом исследовании Корнеллского университета.
|
|
|
|
Потенциальное влияние искусственного интеллекта на результаты выборов вызывает серьезную озабоченность общественности. Две новые статьи, в которых представлены эксперименты, проведенные в четырех странах, демонстрируют, что чат—боты, основанные на больших языковых моделях (LLM), весьма эффективны в политическом убеждении, во многих случаях изменяя предпочтения оппозиционных избирателей на 10 процентных пунктов и более. Убедительность магистров объясняется не тем, что они являются мастерами психологических манипуляций, а тем, что они выдвигают так много заявлений, подкрепляющих их аргументы в пользу политических позиций кандидатов.
|
|
|
|
"Магистранты действительно могут изменить отношение людей к кандидатам в президенты и их политике, и они делают это, предоставляя множество фактических данных, подтверждающих их позицию", - сказал Дэвид Рэнд, профессор информационных наук, маркетинга и управленческих коммуникаций и старший автор обеих статей. "Но эти утверждения не обязательно точны, и даже аргументы, основанные на точных утверждениях, все равно могут вводить в заблуждение из—за упущений".
|
|
|
|
Исследователи сообщили об этих результатах в двух статьях, опубликованных одновременно: "Убеждение избирателей с помощью диалогов между человеком и ИИ" в Nature и "Рычаги политического убеждения с помощью разговорного ИИ" в Science.
|
|
|
|
|
|
|
Как тестировалось убеждение чат-ботов
|
|
|
|
В исследовании Nature Рэнд вместе со старшим соавтором Гордоном Пенникуком и коллегами проинструктировали чат-ботов с искусственным интеллектом изменить отношение избирателей к кандидатам в президенты. Они случайным образом назначали участников для текстовой переписки с чат-ботом, продвигающим ту или иную сторону, а затем оценивали любые изменения во мнениях участников и их намерениях голосовать. Исследователи повторили этот эксперимент трижды: на президентских выборах в США в 2024 году, федеральных выборах в Канаде в 2025 году и президентских выборах в Польше в 2025 году.
|
|
|
|
Они обнаружили, что за два месяца до выборов в США среди более чем 2300 американцев чат-боты, сосредоточенные на политике кандидатов, вызвали небольшой сдвиг во мнениях. По 100-балльной шкале модель искусственного интеллекта, поддерживающая Харриса, повысила шансы избирателей Трампа на 3,9 балла в пользу Харриса - эффект примерно в четыре раза выше, чем от традиционной рекламы, протестированной во время выборов 2016 и 2020 годов. Модель искусственного интеллекта, поддерживающая Трампа, повысила шансы избирателей Харриса на 1,51 балла в пользу Трампа.
|
|
|
|
В ходе аналогичных экспериментов с участием 1530 канадцев и 2118 поляков эффект был гораздо более значительным: чат-боты изменили отношение оппозиционных избирателей и их намерения голосовать примерно на 10 процентных пунктов. "Это произвело на меня шокирующее впечатление, особенно в контексте президентской политики", - сказала Рэнд.
|
|
Тактика убеждения и вопросы точности
|
|
|
|
Чат-боты использовали множество тактик убеждения, но чаще всего они были вежливыми и предоставляли доказательства. Когда исследователи запретили модели использовать факты, она стала гораздо менее убедительной, продемонстрировав центральную роль, которую заявления, основанные на фактах, играют в убеждении ИИ.
|
|
|
|
Исследователи также проверили аргументы чат-бота с помощью модели искусственного интеллекта, которая была проверена с помощью профессиональных людей, проверяющих факты. В то время как в среднем заявления были в основном точными, чат-боты, которым было поручено следить за кандидатами правого толка, сделали больше неточных заявлений, чем те, кто выступал за кандидатов левого толка во всех трех странах.
|
|
|
|
По словам Пенникука, этот вывод, который был подтвержден с помощью политически сбалансированных групп непрофессионалов, отражает часто повторяющийся вывод о том, что правые пользователи социальных сетей делятся более неточной информацией, чем левые.
|
|
|
|
Дальнейшие исследования эффективности чат-ботов
|
|
|
|
В научной статье Rand сотрудничала с коллегами из Британского института безопасности искусственного интеллекта, чтобы выяснить, что делает этих чат-ботов такими убедительными. Они измерили изменения во мнениях почти 77 000 участников из Великобритании, которые общались с чат-ботами по более чем 700 политическим вопросам.
|
|
|
|
"Большие модели более убедительны, но самым эффективным способом повысить убедительность было научить моделей приводить в своих аргументах как можно больше фактов и провести дополнительное обучение, направленное на повышение убедительности", - сказала Рэнд." Наиболее оптимизированная для убеждения модель привела к тому, что оппозиционные избиратели получили поразительные 25 процентных пунктов".
|
|
|
|
Это исследование также показало, что чем более убедительной была модель, тем менее точной была предоставляемая ею информация. Рэнд подозревает, что по мере того, как чат-бот вынужден предоставлять все больше и больше фактических утверждений, в конечном итоге у него заканчивается точная информация и он начинает фальсифицировать.
|
|
|
|
Открытие о том, что фактические утверждения являются ключом к убедительности модели искусственного интеллекта, подтверждается третьей недавней статьей Рэнда, Пенникука и коллег, опубликованной в журнале PNAS Nexus. Исследование показало, что аргументы чат-ботов с искусственным интеллектом снижают веру в теории заговора, даже когда люди думают, что разговаривают с экспертом-человеком. Это говорит о том, что сработали убедительные сообщения, а не вера в авторитет искусственного интеллекта.
|
|
Этические последствия и будущие проблемы
|
|
|
|
В обоих исследованиях всем участникам было сказано, что они общаются с ИИ, и после этого был проведен подробный опрос. Кроме того, направление убеждения было выбрано случайным образом, чтобы в ходе экспериментов не менялись мнения в целом.
|
|
|
|
По словам исследователей, изучение убеждения с помощью ИИ важно для предупреждения и предотвращения злоупотреблений. Тестируя эти системы в контролируемых, прозрачных экспериментах, они надеются донести этические принципы и политические дискуссии о том, как искусственный интеллект следует и не следует использовать в политической коммуникации.
|
|
|
|
Рэнд также отмечает, что чат—боты могут быть эффективными инструментами убеждения только в том случае, если люди изначально взаимодействуют с ботами, а это высокая планка, которую необходимо преодолеть.
|
|
|
|
Но нет никаких сомнений в том, что чат-боты с искусственным интеллектом будут становиться все более важной частью политических кампаний, считает Рэнд. "Сейчас задача состоит в том, чтобы найти способы ограничить вред и помочь людям распознать и противостоять убеждениям ИИ".
|
|
|
|
Источник
|
