Законодатели изо всех сил пытаются разграничить ИИ
|
|
Согласно новому исследованию Корнелла, модели естественного языка, такие как ChatGPT и GPT-4, открывают злоумышленникам новые возможности влиять на представительную демократию. Полевой эксперимент, посвященный изучению того, как модель естественного языка GPT-3, предшественницу последней выпущенной модели, можно использовать для создания составных сообщений электронной почты, показал, что законодатели лишь немного реже реагируют на сообщения, созданные ИИ (15,4%), чем созданные человеком (17,3%). По словам исследователей, разница в 2%, полученная из более чем 32 000 сообщений, отправленных примерно 7000 законодателям штатов США, была статистически значимой, но существенно небольшой. Результаты подчеркивают потенциальные угрозы, которые эта технология представляет для демократического представительства, а также предлагают способы, которыми законодатели могут защититься от астротурфинга с использованием ИИ, неискренней практики создания чувства массовой поддержки, в данном случае путем отправки больших объемов контента, сочувствующего конкретному проблема.
|
|
Исследование «Потенциальное влияние новых технологий на демократическое представительство: данные полевого эксперимента», в соавторстве с Сарой Крепс, профессором кафедры государственного управления в Колледже искусств и наук (A&S) Джона Л. Уэзерилла. директор Института технической политики Корнеллской школы имени Джеба Э. Брукса и адъюнкт-профессор права, а также Дуглас Крайнер, профессор Клинтона Росситера в американских учреждениях в Министерстве государственного управления (A&S) и профессор школы Брукса, опубликованный 20 марта в New Media. и Общество. По словам Крепса, в последние годы новые коммуникационные технологии неоднократно вмешивались в демократический процесс. На президентских выборах в США в 2016 году российские агенты использовали микротаргетированную рекламу в социальных сетях, чтобы манипулировать американскими избирателями и влиять на их исход. А в 2017 году линии общественного обсуждения Федеральной комиссии по связи США были завалены миллионами сообщений, сгенерированных моделями естественного языка в ответ на предложенную отмену правил.
|
|
Имея это в виду, Крепс, который был одним из первых академических сотрудников OpenAI, организации, разработавшей GPT-2, -3 и -4, а также более распространенный ChatGPT, задался вопросом, что злоумышленники могут сделать с более мощными языковыми моделями, которые теперь широко доступны. «Могут ли они генерировать дезинформацию или политически мотивированный целевой контент в масштабе?» она спросила. «Могут ли они эффективно исказить демократический процесс? Или они могут генерировать большие объемы электронных писем, которые выглядят так, как будто они исходят от избирателей, и тем самым смещать законодательную повестку дня в сторону интересов иностранного правительства?»
|
|
В своем эксперименте, проводившемся в течение 2020 года, Крепс и Крайнер выбрали шесть актуальных вопросов: репродуктивные права, охрана правопорядка, уровень налогов, контроль над оружием, политика в области здравоохранения и политика в области образования. Чтобы создавать сообщения, созданные людьми, студенты, связанные с студенческим политическим союзом Корнелла, составляли электронные письма законодателям штата по каждой теме, отстаивая правую или левую позицию. Затем они создали автоматически сгенерированные письма избирателям, используя GPT-3, обучив систему 12 буквам (правое и левое положение для каждого из шести вопросов). Они создали 100 различных результатов для каждой из идеологий и тем.
|
|
По словам исследователей, многие законодатели и их сотрудники не отвергли созданный компьютером контент как недостоверный, о чем свидетельствует небольшая разница в ответах между ИИ и человеческим контентом по шести вопросам. Более того, сообщения о контроле над оружием и политике в области здравоохранения получили практически одинаковое количество ответов, а о политике в области образования скорость ответов была выше для сообщений, сгенерированных ИИ, что позволяет предположить, что «по этим вопросам GPT-3 удалось создать контент, который был почти неотличим в глаза законодательных органов штатов от человеческого контента», — написали они.
|
|
В отзывах после эксперимента законодатели штатов поделились тем, как они выявляют поддельные электронные письма, например отсутствие географических маркеров. Некоторые сказали, что они представляют такие маленькие районы, что могут распознать подделку, просто взглянув на название. «Было приятно слышать, что многие из этих законодателей действительно понимают своих избирателей и их голоса, и что эти сообщения, сгенерированные ИИ, совсем не похожи на то, что написали бы их избиратели», — сказал Крепс. Однако сенаторам и представителям национального уровня будет труднее обнаружить такие местные ключи к подлинности, говорят исследователи.
|
|
Технологические инструменты, использующие тот же тип нейронных сетей, могут помочь отличить настоящие сообщения от поддельных, «но то же самое можно сказать и о проницательном глазе и цифровой грамотности», — сказал Крепс. «Законодатели должны быть обучены, чтобы знать, что искать». Технологические инструменты, использующие тот же тип нейронных сетей, могут помочь отличить настоящие сообщения от поддельных, «но то же самое можно сказать и о проницательном глазе и цифровой грамотности», — сказал Крепс. «Законодатели должны быть обучены, чтобы знать, что искать».
|
|
По мере увеличения возможностей электронного астротурфинга законодателям, возможно, придется в большей степени полагаться на другие источники информации о предпочтениях округов, сказал Крайнер, включая данные районных опросов и личные мероприятия: «Они путешествуют по своим округам, проводят городские собрания и получают прямую информацию. настороженно, по крайней мере, от тех, кто наиболее заинтересован в проблеме». Оба ученых с оптимизмом смотрят на то, что демократия в Америке переживет эту новую угрозу. «Можно утверждать, что переход от того, чтобы сесть и написать письмо, к написанию электронного письма был намного больше, чем между шаблонными онлайн-шаблонами электронной почты и GPT-3», — сказал Крепс. «Мы адаптировались раньше, и демократические институты сделают это снова».
|
|
Источник
|