|
ИИ соперничает с людьми в политических убеждениях
|
|
|
|
Новое исследование показывает, что люди находят политические аргументы, приводимые ИИ, убедительными. Это может помочь преодолеть политические разногласия — или усилить поляризацию. Поскольку крупные языковые модели становятся все более распространенными, это только вопрос времени, когда им будет поручено генерировать политические сообщения, если они этого еще не делают. Новое исследование, проведенное двумя профессорами Стэнфордской высшей школы бизнеса, исследует, как люди реагируют на политические призывы, генерируемые искусственным интеллектом, и их последствия.
|
|
|
|
"Нас интересовало, могут ли сообщения, генерируемые искусственным интеллектом, быть такими же убедительными, как сообщения, генерируемые людьми", - говорит Робб Уиллер, профессор организационного поведения (любезно предоставленный) Стэнфордского университета, который исследовал этот вопрос в статье, опубликованной в Nature Communications, с командой исследователей из Политики и бизнеса. Лаборатория социальных изменений (которой он руководит) и Стэнфордский институт искусственного интеллекта, ориентированный на человека.
|
|
|
|
"Довольно последовательно, по целому ряду политических вопросов, мы обнаружили именно это: сообщения, разработанные с помощью искусственного интеллекта, примерно так же убедительны, как и сообщения, разработанные людьми, хотя читатели и не знали источника сообщения".
|
|
|
|
|
|
|
Закари Тормала, профессор маркетинга в Стэнфордском университете, задал другой вопрос. Влияет ли информация о том, что сообщение было написано ИИ, на то, как люди реагируют на него? Вместе с Луизой Лу, докторантом, возглавлявшей проект, и Адамом Духачеком из Иллинойского университета в Чикаго, Тормала проверила, насколько люди восприимчивы к идеям, когда слышат, что сообщение исходит от искусственного интеллекта, а не от человека. Этот подход, опубликованный в журнале Scientific Reports, показал, что люди более открыты к обсуждению противоположных политических позиций, когда они представлены с помощью искусственного интеллекта.
|
|
|
|
"Мы подумали, что в этом контексте ИИ может иногда работать лучше, чем человеческие источники, потому что люди верят, что ИИ не стремится к убеждению, по своей сути не предвзят и имеет доступ к огромному количеству информации", - говорит Тормала. "В наших исследованиях все эти факторы повысили готовность людей принимать во внимание аргументы, представленные ИИ, которые противоречат их собственным убеждениям.
|
|
|
|
По сути, Уиллер протестировал сообщение, Тормала - посланника.
|
|
Аргумент от LLM
|
|
|
|
Уиллер и его коллеги провели три опроса, в ходе которых они оценили мнение участников о различных мерах политики, включая запрет на курение в общественных местах, контроль за оборотом оружия, налог на выбросы углекислого газа и автоматическую регистрацию избирателей. Участники читали сообщения в поддержку этих мер, которые были созданы либо искусственным интеллектом, либо людьми. (Контрольная группа увидела сообщения, не связанные с политикой.) В конце исследования был проведен опрос, чтобы определить, изменилось ли мнение людей.
|
|
|
|
"Единственное, что отличалось, - это содержание эссе, и мы наблюдали одинаково убедительный эффект независимо от того, было ли оно написано человеком или искусственным интеллектом", - говорит Уиллер. Наиболее сильный эффект, в частности, проявился среди людей, которые уже поддерживали политику — сообщения, написанные с помощью искусственного интеллекта, еще больше укрепили их убежденность.
|
|
|
|
"Мы также обнаружили, что люди по-разному воспринимают эти убедительные призывы", - говорит Уиллер. Хотя авторство сообщений не раскрывалось, участники неизменно высказывали предположение, что сила обращений, написанных людьми, заключается в использовании ими повествовательных форм и ссылок на личный опыт. Апелляции, написанные магистрами, были признаны убедительными благодаря их логическому обоснованию и четкому изложению фактов.
|
|
|
|
Этот вывод дополняет исследование Тормалы и Лу, которое показало, что люди более восприимчивы к сообщениям, противоречащим их позиции, когда им говорят, что эти сообщения исходят от ИИ, поскольку они считают ИИ более информированным, менее предвзятым и менее склонным к убеждению, чем человек.
|
|
|
|
"Когда человек пытается убедить нас в своей позиции, мы часто не хотим этого слышать", - говорит Тормала. "Особенно если человек находится на другой стороне, мы предполагаем, что знаем, что он думает, что он неосведомлен и предвзят, и что он просто пытается убедить нас или выиграть спор. Поэтому мы склонны отмахиваться от него". С другой стороны, искусственный интеллект считается высоко информированным и более объективным.
|
|
|
|
Лу провел серию экспериментов, в основе которых лежал один и тот же принцип. Участники получили сообщения по конкретному политическому вопросу, которые противоречили их существующим убеждениям. Например, если они выступали за вакцины, они читали сообщение, в котором излагались аргументы против вакцинации. Все читали одно и то же сообщение — они были подготовлены исследователями, — но некоторым говорили, что аргументы были придуманы людьми, в то время как другим говорили, что они были сгенерированы искусственным интеллектом.
|
|
|
|
Первые два эксперимента показали, что люди более восприимчивы к контраргументам, когда считают, что они исходят от ИИ. Третий эксперимент продемонстрировал большую готовность делиться и искать больше информации о контраргументах, когда считалось, что их источником является ИИ. Четвертый эксперимент показал более низкий уровень враждебности по отношению к противоположной стороне, когда считалось, что посланником является искусственный интеллект.
|
|
|
|
"Мы впервые видим, что люди, сталкиваясь с сообщением от искусственного интеллекта, а не от другого человека, более открыты для другой стороны. Они более восприимчивы к тому, чтобы выслушать противоположную позицию. Затем мы видим, что они с большей готовностью делятся этими идеями с другими, и они даже начинают по-другому смотреть на другую сторону, считать ее немного более разумной", - говорит Тормала. "Существует каскадный набор результатов, которые связаны с первоначальным выводом об открытости".
|
|
Машинная политика
|
|
|
|
Лу отмечает, что эти выводы могут послужить основой для создания "небольших инструментов для решения проблемы политической поляризации". Например, если компании, работающие в социальных сетях, добросовестно пытаются предоставить потребителям более точную и сбалансированную информацию, то использование этой информации с помощью искусственного интеллекта может сделать пользователей более восприимчивыми к различным мнениям и заставить их воспринимать различные точки зрения менее защищенно. "Если использовать этот подход масштабно, - говорит Лу, - он может стать одним из небольших способов обуздать поляризацию".
|
|
|
|
"Тем не менее, наше исследование не зависит от того, является ли информация точной", - говорит Тормала. Если люди будут более восприимчивы к сообщениям, генерируемым искусственным интеллектом, независимо от их точности, это может способствовать распространению дезинформации. Вывод, по его словам, "заключается не в том, что "Эй, ИИ спасет нас", а в том, что люди по-разному реагируют на информацию, когда думают, что она исходит от ИИ. Эта реакция может быть хорошей или плохой в зависимости от информации, которую они получают".
|
|
|
|
Уиллер также отмечает ряд следствий, вытекающих из выводов его команды. С одной стороны, убедительный эффект ИИ был относительно невелик. LLM могут повысить эффективность политических сообщений, но они могут изменить мнение лишь на небольшой процент. По словам Уиллера, само по себе это не является результатом, который "дестабилизировал бы общество".
|
|
|
|
С другой стороны, тот факт, что сообщения, генерируемые искусственным интеллектом, укрепляют существующие убеждения людей в исследованиях Уиллера, говорит о том, что их использование может усилить поляризацию. Уиллер считает возможным, что во время промежуточных выборов в США в 2026 году иностранные или внутренние субъекты могут использовать искусственных агентов, чтобы наводнить социальные сети кампаниями, направленными на то, чтобы еще глубже вбить клин между американцами.
|
|
|
|
"У нас уже есть такой негативный дискурс вокруг политики в этой стране, и технически было бы несложно масштабировать контент, созданный с помощью искусственного интеллекта, и ухудшить ситуацию", - говорит он. - Уму непостижимо, какими различными способами это может быть использовано, чтобы угрожать нашей и без того измотанной демократии".
|
|
|
|
Источник
|
