Законодатели изо всех сил пытаются разграничить ИИ
Согласно новому исследованию Корнелла, модели естественного языка, такие как ChatGPT и GPT-4, открывают злоумышленникам новые возможности влиять на представительную демократию. Полевой эксперимент, посвященный изучению того, как модель естественного языка GPT-3, предшественницу последней выпущенной модели, можно использовать для создания составных сообщений электронной почты, показал, что законодатели лишь немного реже реагируют на сообщения, созданные ИИ (15,4%), чем созданные человеком (17,3%). По словам исследователей, разница в 2%, полученная из более чем 32 000 сообщений, отправленных примерно 7000 законодателям штатов США, была статистически значимой, но существенно небольшой. Результаты подчеркивают потенциальные угрозы, которые эта технология представляет для демократического представительства, а также предлагают способы, которыми законодатели могут защититься от астротурфинга с использованием ИИ, неискренней практики создания чувства массовой поддержки, в данном случае путем отправки больших объемов контента, сочувствующего конкретному проблема.
Исследование «Потенциальное влияние новых технологий на демократическое представительство: данные полевого эксперимента», в соавторстве с Сарой Крепс, профессором кафедры государственного управления в Колледже искусств и наук (A&S) Джона Л. Уэзерилла. директор Института технической политики Корнеллской школы имени Джеба Э. Брукса и адъюнкт-профессор права, а также Дуглас Крайнер, профессор Клинтона Росситера в американских учреждениях в Министерстве государственного управления (A&S) и профессор школы Брукса, опубликованный 20 марта в New Media. и Общество. По словам Крепса, в последние годы новые коммуникационные технологии неоднократно вмешивались в демократический процесс. На президентских выборах в США в 2016 году российские агенты использовали микротаргетированную рекламу в социальных сетях, чтобы манипулировать американскими избирателями и влиять на их исход. А в 2017 году линии общественного обсуждения Федеральной комиссии по связи США были завалены миллионами сообщений, сгенерированных моделями естественного языка в ответ на предложенную отмену правил.
Имея это в виду, Крепс, который был одним из первых академических сотрудников OpenAI, организации, разработавшей GPT-2, -3 и -4, а также более распространенный ChatGPT, задался вопросом, что злоумышленники могут сделать с более мощными языковыми моделями, которые теперь широко доступны. «Могут ли они генерировать дезинформацию или политически мотивированный целевой контент в масштабе?» она спросила. «Могут ли они эффективно исказить демократический процесс? Или они могут генерировать большие объемы электронных писем, которые выглядят так, как будто они исходят от избирателей, и тем самым смещать законодательную повестку дня в сторону интересов иностранного правительства?»
В своем эксперименте, проводившемся в течение 2020 года, Крепс и Крайнер выбрали шесть актуальных вопросов: репродуктивные права, охрана правопорядка, уровень налогов, контроль над оружием, политика в области здравоохранения и политика в области образования. Чтобы создавать сообщения, созданные людьми, студенты, связанные с студенческим политическим союзом Корнелла, составляли электронные письма законодателям штата по каждой теме, отстаивая правую или левую позицию. Затем они создали автоматически сгенерированные письма избирателям, используя GPT-3, обучив систему 12 буквам (правое и левое положение для каждого из шести вопросов). Они создали 100 различных результатов для каждой из идеологий и тем.
По словам исследователей, многие законодатели и их сотрудники не отвергли созданный компьютером контент как недостоверный, о чем свидетельствует небольшая разница в ответах между ИИ и человеческим контентом по шести вопросам. Более того, сообщения о контроле над оружием и политике в области здравоохранения получили практически одинаковое количество ответов, а о политике в области образования скорость ответов была выше для сообщений, сгенерированных ИИ, что позволяет предположить, что «по этим вопросам GPT-3 удалось создать контент, который был почти неотличим в глаза законодательных органов штатов от человеческого контента», — написали они.
В отзывах после эксперимента законодатели штатов поделились тем, как они выявляют поддельные электронные письма, например отсутствие географических маркеров. Некоторые сказали, что они представляют такие маленькие районы, что могут распознать подделку, просто взглянув на название. «Было приятно слышать, что многие из этих законодателей действительно понимают своих избирателей и их голоса, и что эти сообщения, сгенерированные ИИ, совсем не похожи на то, что написали бы их избиратели», — сказал Крепс. Однако сенаторам и представителям национального уровня будет труднее обнаружить такие местные ключи к подлинности, говорят исследователи.
Технологические инструменты, использующие тот же тип нейронных сетей, могут помочь отличить настоящие сообщения от поддельных, «но то же самое можно сказать и о проницательном глазе и цифровой грамотности», — сказал Крепс. «Законодатели должны быть обучены, чтобы знать, что искать». Технологические инструменты, использующие тот же тип нейронных сетей, могут помочь отличить настоящие сообщения от поддельных, «но то же самое можно сказать и о проницательном глазе и цифровой грамотности», — сказал Крепс. «Законодатели должны быть обучены, чтобы знать, что искать».
По мере увеличения возможностей электронного астротурфинга законодателям, возможно, придется в большей степени полагаться на другие источники информации о предпочтениях округов, сказал Крайнер, включая данные районных опросов и личные мероприятия: «Они путешествуют по своим округам, проводят городские собрания и получают прямую информацию. настороженно, по крайней мере, от тех, кто наиболее заинтересован в проблеме». Оба ученых с оптимизмом смотрят на то, что демократия в Америке переживет эту новую угрозу. «Можно утверждать, что переход от того, чтобы сесть и написать письмо, к написанию электронного письма был намного больше, чем между шаблонными онлайн-шаблонами электронной почты и GPT-3», — сказал Крепс. «Мы адаптировались раньше, и демократические институты сделают это снова».
Источник
При использовании материалов с сайта активная ссылка на него обязательна
Последние аномальные новости

Большинство людей хотят заниматься сексом с роботами

Будущие эпидемии могут возникнуть из-за ИИ

В Башкирии жители заметили НЛО в небе

В новом отчете Пентагона по НЛО есть серьезные недостатки

Вычисление точных размеров экзопланет

Зонд для поисков жизни на спутниках Юпитера

Кислород и углерод улетучиваются из магнитосферы Венеры

Мы не готовы к вторжению инопланетян

НЛО замечен небе над Екатеринбургом

Новая идея для космических солнечных батарей

Обнаружены звездные ветры от трех солнцеподобных звезд

Поиски неуловимого Лох-Несского чудовища

Призрак опрокидывает напитки в одном из пабов Британии

Странный сигарообразный НЛО над шоссе в Миссури

Существо-муравей замечено на Марсе

Тёмная материя повышенной плотности существует

Ужасающая реальность ядерной радиации

Уэльс - горячая точка внеземной активности

Человек-сатана сменил имя на Дьявол

Ярчайший гамма-всплеск произошел из-за коллапса звезды

Беспроводная передача энергии поможет изучить Луну

Бывшая жена призрака стала ведьмой

В поисках асимметрии между материей и антивеществом

Какая часть атмосферы Венеры образуется за счет вулканов

Наблюдения НЛО в Канаде продолжаются

НАСА попросили помочь в поисках Лох-Несского чудовища

Необъяснимая аномалия вблизи Антарктиды движется на север

Новый сейсмодатчик для обнаружения лунотрясений

Порнозвезда рассказала о своем столкновении с призраками

Раскрывая секреты НЛО. Взгляд доктора Стивена Грира

Солнечные паруса нового поколения готовы к запуску

Столкновение звезд раскрывает звездную тайну

Терминаторы могут появиться уже в следующем году

Триггеры нового поколения для детекторов ЦЕРН

Удивительные горячие точки НЛО в Техасе

Ученые БАК изучают звездные пути инопланетян

Физика и математика стоящие за 'Задачей трех тел'

Человек появился спустя 30 лет без памяти

Черная дыра замечена вблизи Кейптауна

Черный НЛО замечен над океаном около Тампы

Для изучения астероидов потребуются разумные зонды

Доказательство путешествий во времени

Дьявол будет парить в вышине, вызывая изумление

Если на Европе и есть гейзеры, то они очень слабые

Затмения лежат в основе усилий по изучению экзопланет

ИИ может воспроизвести голос любого человека

Как искусственные сотрудники повлияют на живых

Конспирологи опасаются демонических порталов

Люди плохо разбираются в теориях заговора

Новая свидетельница похищения инопланетянами в Паскагуле

Обнаружена новая молодая и теплая экзопланета

Питательные вещества для жизни на экзопланетах

Платформа из графита левитирует без электричества

Пугающая деталь в паспорте Нео

Роль Млечного Пути в древнеегипетской мифологии

Создатель аугментов вернулся к работе

Техас заменяет тысячи экзаменаторов-людей на ИИ

Технологии НАСА помогают защититься от лунной пыли

Фирма Synchron начинает испытания мозговых чипов на людях

Что будет с Землей, когда погаснет Солнце

Бигфут скрывается в горах с таинственной энергией

Биокомпоненты оказались стабильны в атмосфере Венеры

В Сочи корабли полетели над морем

Звезда бросает вызов происхождению быстрых радиовсплесков

НЛО в Розуэлле по-прежнему окутывает Вашингтон

Паранормальная природа встреч с НЛО и связь между ними

Почему так трудно бурить на поверхности планет

Разоблачители и поиск внеземной жизни

Самое необычное место для отдыха в Колорадо

Смотрите фильмы о непознанном на Netflix

Создали метажидкость с программируемыми свойствами

Тайна мумии русалки раскрыта

Тайна однобокой геологии Луны

Теории заговора вокруг Георга III и королевы Шарлотты

Ужасные рога мужчины-дьявола и женщины-носорога

Ученые БАК пытаются открыть пути инопланетян

Четыре ключевых вопроса об инопланетных технологиях

Что мы могли бы построить из лунного реголита

Южнокорейский зонд приняли за НЛО

Я был похищен долговязыми инопланетянами

Автостоянки у супермаркетов не интересуют НЛО

В Массачусетсе происходят массовые наблюдения НЛО

В Уэльсе было зарегистрировано 323 случая наблюдения НЛО

Если на Европе существует жизнь её обнаружат

Инопланетные шарики, выловленные из Тихого океана

Конспирологи считают ЦЕРН угрозой миру

Министерство обороны опубликовало досье об НЛО

НАСА сняло НЛО, летящий над Луной

НЛО был замечен над Арлингтоном

НЛО замечен над Техасом во время солнечного затмения

НЛО прилетают в Уэльс не за мясом

НЛО прилетают к нам через дополнительные измерения

Перуанские мумии инопланетян требуют новых исследований

Правда об НЛО вызовет беспорядки

Пульсирующий синий НЛО снят над Финиксом

Режиссер делится своим Ангельским опытом

Существуют ли НЛО на самом деле

Ускоренное расширение Вселенной замедляется

Файлы необъяснимого стал самым популярным шоу Netflix

Что такое Гаванский синдром

Знакомство с миром гелиевых воздушных шаров

iPhone 15 Pro Max 512 GB Blue. Преимущества и технические характеристики

Данных для обучения ИИ перестало хватать

Жуткие предсказания Ванги на 2024 год

ИИ можно заставить говорить на запрещённые темы

Илон Маск рассказал о планах по колонизации Марса

Кракен, живущий в районе Багамских островов

Кристалл, охлаждающий вещества до сверхнизких температур

Матрица - фильм о возможностях человеческого мозга

Могли ли люди и динозавры жить вместе

Написанные ИИ книги появились в Google Books

Невидимый душитель на ферме

НЛО заметили на границе между Ираном и Ираком

Облака необычной формы заинтересовали воронежцев

Околосмертный опыт Микки Робинсона

Пилотируемый полет на Марс состоится нескоро

Полтергейст на ферме в Коннектикуте

Росатом разработал двигатель для межпланетных путешествий

Странная смерть и жуткие увечья старушки

Странные случаи загадочных и невероятных убийств

Теория, согласно которой все люди - персонажи фильмов

Фото странного существа в реке Гудзон

Более ста видов молекул обнаружены в близлежащей галактике

Большинство наблюдений НЛО было на западе США

В одной части США наблюдается больше НЛО, чем в другой

Галльская деревня железного века внутри кратера

Дайверы исследуют британские озера в поисках Экскалибура

Доказательства существования душ

Лучшие места для наблюдений НЛО в Великобритании

Нейтронные звезды являются ключом к темной материи

Обнаружили радугу на адской планете

Отчет Пентагона о НЛО не дает ответы на важные вопросы

Пентагон не допустит появления терминаторов

Портал в Ад скрыт на картах Google

Разработали экран-невидимку, которую можно купить

Районы Эссекса, где были замечены НЛО

Рождаются ли коричневые карлики аналогично звездам

Сериал о встречах с инопланетянами и призраками

Теории заговора о пришельце, который жил в Зоне 51

Уфолог выступил в пабе в Стоурбридже

Уфологи собрались, чтобы отметить годовщину НЛО

Химические реакции искажают квантовую информацию

Анализ обломков НЛО в британском Розуэлле

Борьба с незаконным оборотом артефактов усиливается

Бумерангоподобный НЛО сняли с МКС

В небе над США были замечены огненные шары

Детектор темной энергии составляет карту Вселенной

Лучшие штаты США для наблюдений НЛО

Люди на грани открытия того, что призраки реальны

На карликовых планетах за Плутоном могут быть океаны

Наблюдение НЛО над Поццуоли

НЛО в околоземном космическом пространстве

НЛО и употребление наркотиков упоминаются в Библии

Обнаружен объект из необъяснимого провала масс

Похищение инопланетянами в Паскагуле на Netflix

Разгадка тайн Арктики. Таяние льдов влияет на климат

Свидетельства древней жизни на Земле

Темный лес, скрывающий враждебных инопланетян

Уфолог увидел НЛО в космосе

Уфологи собрались на конференцию в Хемпфилде

Уэльс назван горячей точкой НЛО в Великобритании

Эпоха антропоцена, которой нет

Впервые подтвердили приливный захват у экзопланеты

Где в Техасе чаще видят НЛО

Жители западной части США чаще видят НЛО

Картографирование лавовых трубок на Луне и Марсе

Когда могла образоваться Луна

Политики и военные США считают НЛО - демонами

Политику сказали прекратить задавать вопросы об НЛО

Простые числа можно предсказать

Робот для исследования опасной местности на Луне

Розуэлл в Европе. Продолжение истории

Самое четкое фото НЛО было скрыто от общественности

Самые посещаемые призраками рестораны

Синий НЛО был снят над точкой притяжения инопланетян

Судьбы звезд вблизи черной дыры Млечного Пути

Теория эксперта позволила разгадать фото НЛО

Топливозаправщик для космических сил США

Требуется создать службу охотников за привидениями

Тревожные комментарии конгрессмена об НЛО

Ученые представляют себе научно-фантастические миры

Я был похищен безглазыми инопланетянами с клешнями

Гравитационное искривление солнечного света

Замечен пульсирующий синий сигарообразный НЛО

Зачем марсоход прилетел на красную планету

Крупнейшая цифровая камера для астрономии

Подписка на новости
Наверх