|
Непрерывные фейковые новости оказывают большее влияние
|
|
|
|
На сегодняшний день не совсем ясно, повлияла ли дезинформация на ход выборов, которые в противном случае прошли бы по-другому. Но, тем не менее, есть сильное ощущение, что она оказала значительное влияние. Учитывая, что искусственный интеллект в настоящее время используется для создания правдоподобных фальшивых видеороликов и более эффективного распространения дезинформации, мы вправе опасаться, что фейковые новости могут изменить ход выборов в недалеком будущем. Чтобы оценить угрозу и адекватно отреагировать, нам нужно лучше понимать, насколько серьезной может быть проблема. В физических или биологических науках мы бы проверили гипотезу такого рода, повторив эксперимент много раз. Но в социальных науках это гораздо сложнее, потому что часто невозможно повторить эксперименты. Если вы хотите узнать о влиянии определенной стратегии, скажем, на предстоящие выборы, вы не можете миллион раз повторить ход выборов, чтобы сравнить, что происходит, когда стратегия реализуется, и когда она не реализуется.
|
|
|
|
Вы могли бы назвать это проблемой с одной историей: существует только одна история, за которой нужно следить. Вы не можете отмотать время, чтобы изучить последствия контрфактических сценариев. Для преодоления этой трудности пригодится генеративная модель, поскольку она может создавать множество историй. Генеративная модель - это математическая модель первопричины наблюдаемого события, а также руководящий принцип, который подсказывает вам, каким образом причина (входные данные) превращается в наблюдаемое событие (выходные данные). Моделируя причину и применяя принцип, можно создать множество историй и, следовательно, статистических данных, необходимых для изучения различных сценариев. Это, в свою очередь, может быть использовано для оценки последствий дезинформации на выборах. В случае избирательной кампании основной причиной является информация, доступная избирателям (исходные данные), которая преобразуется в результаты опросов общественного мнения, показывающих изменения намерений избирателей (наблюдаемый результат). Руководящий принцип заключается в том, как люди обрабатывают информацию, что сводит к минимуму неопределенность.
|
|
|
Таким образом, моделируя, как избиратели получают информацию, мы можем смоделировать последующие события на компьютере. Другими словами, мы можем создать на компьютере "возможную историю" изменений в опросах общественного мнения с настоящего момента до дня выборов. Из одной только истории мы практически ничего не узнаем, но теперь мы можем запускать симуляцию (виртуальные выборы) миллион раз. Генеративная модель не предсказывает никаких будущих событий из-за зашумленности информации. Но она предоставляет статистику различных событий, а это то, что нам нужно. Впервые идея использовать генеративную модель для изучения воздействия дезинформации пришла мне в голову около десяти лет назад, когда я совершенно не ожидал, что эта концепция, к сожалению, станет настолько актуальной для обеспечения безопасности демократических процессов. Мои первоначальные модели были разработаны для изучения влияния дезинформации на финансовые рынки, но по мере того, как фейковые новости становились все более серьезной проблемой, мы с коллегой расширили модель, чтобы изучить ее влияние на выборы.
|
|
|
|
Генеративные модели могут предсказать нам вероятность победы данного кандидата на будущих выборах с учетом сегодняшних данных и уточнения того, как информация по вопросам, имеющим отношение к выборам, доводится до сведения избирателей. Это может быть использовано для анализа того, как повлияет на вероятность победы, если кандидаты или политические партии изменят свои политические позиции или коммуникационные стратегии. Мы можем включить в модель дезинформацию, чтобы изучить, как это повлияет на статистику результатов. Здесь дезинформация определяется как скрытый компонент информации, который порождает предвзятость. Если включить дезинформацию в модель и провести имитационное моделирование, результат очень мало говорит нам о том, как это изменило опросы общественного мнения. Но, проводя моделирование много раз, мы можем использовать статистику для определения процентного изменения вероятности победы кандидата на будущих выборах при наличии дезинформации заданного масштаба и частоты. Другими словами, теперь мы можем измерить влияние фейковых новостей с помощью компьютерного моделирования.
|
|
|
|
Я должен подчеркнуть, что измерение влияния фейковых новостей отличается от составления прогнозов о результатах выборов. Эти модели не предназначены для составления прогнозов. Скорее, они предоставляют статистику, достаточную для оценки воздействия дезинформации. Одна из рассмотренных нами моделей дезинформации - это тип, который распространяется в какой-то случайный момент, набирает силу в течение короткого периода времени, но затем ослабевает (например, из-за проверки фактов). Мы обнаружили, что однократное распространение подобной дезинформации задолго до дня выборов практически не повлияет на исход выборов. Однако, если распространение такой дезинформации будет повторяться постоянно, это окажет влияние. Дезинформация, предвзятая по отношению к конкретному кандидату, каждый раз, когда она публикуется, приводит к незначительному изменению результатов опроса в пользу этого кандидата. Из всех имитаций выборов, в которых этот кандидат проиграл, мы можем определить, во скольких из них результат был изменен на противоположный, исходя из заданной частоты и масштабов дезинформации. Фейковые новости в пользу кандидата, за исключением редких случаев, не гарантируют победу этому кандидату. Однако их влияние можно измерить с точки зрения вероятности и статистики. Насколько фейковые новости изменили вероятность победы? Какова вероятность изменения результатов выборов? И так далее.
|
|
|
|
Один из результатов, который стал неожиданностью, заключается в том, что даже если избиратели не знают, является ли данная информация правдивой или ложной, если они знают частоту и предвзятость дезинформации, то этого достаточно, чтобы устранить большую часть воздействия дезинформации. Простое знание о возможности появления фейковых новостей уже является мощным противоядием от их воздействия. Генеративные модели сами по себе не обеспечивают противодействия дезинформации. Они просто дают нам представление о масштабах воздействия. Проверка фактов может помочь, но она не слишком эффективна (джинн уже выпущен из бутылки). Но что, если объединить эти два фактора? Поскольку воздействие дезинформации можно в значительной степени предотвратить, информируя людей о том, что это происходит, было бы полезно, если бы специалисты по проверке фактов предоставляли информацию о статистике дезинформации, которую они выявили, например, "X% негативных заявлений в адрес кандидата А были ложными". Электорат, располагающий такой информацией, будет в меньшей степени подвержен дезинформации.
|
|
|
|
Источник
|
