Законодатели изо всех сил пытаются разграничить ИИ
Согласно новому исследованию Корнелла, модели естественного языка, такие как ChatGPT и GPT-4, открывают злоумышленникам новые возможности влиять на представительную демократию. Полевой эксперимент, посвященный изучению того, как модель естественного языка GPT-3, предшественницу последней выпущенной модели, можно использовать для создания составных сообщений электронной почты, показал, что законодатели лишь немного реже реагируют на сообщения, созданные ИИ (15,4%), чем созданные человеком (17,3%). По словам исследователей, разница в 2%, полученная из более чем 32 000 сообщений, отправленных примерно 7000 законодателям штатов США, была статистически значимой, но существенно небольшой. Результаты подчеркивают потенциальные угрозы, которые эта технология представляет для демократического представительства, а также предлагают способы, которыми законодатели могут защититься от астротурфинга с использованием ИИ, неискренней практики создания чувства массовой поддержки, в данном случае путем отправки больших объемов контента, сочувствующего конкретному проблема.
Исследование «Потенциальное влияние новых технологий на демократическое представительство: данные полевого эксперимента», в соавторстве с Сарой Крепс, профессором кафедры государственного управления в Колледже искусств и наук (A&S) Джона Л. Уэзерилла. директор Института технической политики Корнеллской школы имени Джеба Э. Брукса и адъюнкт-профессор права, а также Дуглас Крайнер, профессор Клинтона Росситера в американских учреждениях в Министерстве государственного управления (A&S) и профессор школы Брукса, опубликованный 20 марта в New Media. и Общество. По словам Крепса, в последние годы новые коммуникационные технологии неоднократно вмешивались в демократический процесс. На президентских выборах в США в 2016 году российские агенты использовали микротаргетированную рекламу в социальных сетях, чтобы манипулировать американскими избирателями и влиять на их исход. А в 2017 году линии общественного обсуждения Федеральной комиссии по связи США были завалены миллионами сообщений, сгенерированных моделями естественного языка в ответ на предложенную отмену правил.
Имея это в виду, Крепс, который был одним из первых академических сотрудников OpenAI, организации, разработавшей GPT-2, -3 и -4, а также более распространенный ChatGPT, задался вопросом, что злоумышленники могут сделать с более мощными языковыми моделями, которые теперь широко доступны. «Могут ли они генерировать дезинформацию или политически мотивированный целевой контент в масштабе?» она спросила. «Могут ли они эффективно исказить демократический процесс? Или они могут генерировать большие объемы электронных писем, которые выглядят так, как будто они исходят от избирателей, и тем самым смещать законодательную повестку дня в сторону интересов иностранного правительства?»
В своем эксперименте, проводившемся в течение 2020 года, Крепс и Крайнер выбрали шесть актуальных вопросов: репродуктивные права, охрана правопорядка, уровень налогов, контроль над оружием, политика в области здравоохранения и политика в области образования. Чтобы создавать сообщения, созданные людьми, студенты, связанные с студенческим политическим союзом Корнелла, составляли электронные письма законодателям штата по каждой теме, отстаивая правую или левую позицию. Затем они создали автоматически сгенерированные письма избирателям, используя GPT-3, обучив систему 12 буквам (правое и левое положение для каждого из шести вопросов). Они создали 100 различных результатов для каждой из идеологий и тем.
По словам исследователей, многие законодатели и их сотрудники не отвергли созданный компьютером контент как недостоверный, о чем свидетельствует небольшая разница в ответах между ИИ и человеческим контентом по шести вопросам. Более того, сообщения о контроле над оружием и политике в области здравоохранения получили практически одинаковое количество ответов, а о политике в области образования скорость ответов была выше для сообщений, сгенерированных ИИ, что позволяет предположить, что «по этим вопросам GPT-3 удалось создать контент, который был почти неотличим в глаза законодательных органов штатов от человеческого контента», — написали они.
В отзывах после эксперимента законодатели штатов поделились тем, как они выявляют поддельные электронные письма, например отсутствие географических маркеров. Некоторые сказали, что они представляют такие маленькие районы, что могут распознать подделку, просто взглянув на название. «Было приятно слышать, что многие из этих законодателей действительно понимают своих избирателей и их голоса, и что эти сообщения, сгенерированные ИИ, совсем не похожи на то, что написали бы их избиратели», — сказал Крепс. Однако сенаторам и представителям национального уровня будет труднее обнаружить такие местные ключи к подлинности, говорят исследователи.
Технологические инструменты, использующие тот же тип нейронных сетей, могут помочь отличить настоящие сообщения от поддельных, «но то же самое можно сказать и о проницательном глазе и цифровой грамотности», — сказал Крепс. «Законодатели должны быть обучены, чтобы знать, что искать». Технологические инструменты, использующие тот же тип нейронных сетей, могут помочь отличить настоящие сообщения от поддельных, «но то же самое можно сказать и о проницательном глазе и цифровой грамотности», — сказал Крепс. «Законодатели должны быть обучены, чтобы знать, что искать».
По мере увеличения возможностей электронного астротурфинга законодателям, возможно, придется в большей степени полагаться на другие источники информации о предпочтениях округов, сказал Крайнер, включая данные районных опросов и личные мероприятия: «Они путешествуют по своим округам, проводят городские собрания и получают прямую информацию. настороженно, по крайней мере, от тех, кто наиболее заинтересован в проблеме». Оба ученых с оптимизмом смотрят на то, что демократия в Америке переживет эту новую угрозу. «Можно утверждать, что переход от того, чтобы сесть и написать письмо, к написанию электронного письма был намного больше, чем между шаблонными онлайн-шаблонами электронной почты и GPT-3», — сказал Крепс. «Мы адаптировались раньше, и демократические институты сделают это снова».
Источник
Последние аномальные новости

Внеземная жизнь. Доказательство этого было бы невероятным

Загадочное исчезновение Денниса Мартина

Зловещие проклятия, призраки и монстры в Пенсильвании

Инопланетяне тайно живут на Земле и помогают правительствам

Конференция по НЛО прошла в Калифорнии

Летчики фиксируют неопознанные объекты над зоной СВО

НЛО стоит исследовать, несмотря на отсутствие доказательств

Один из самых спорных случаев катастрофы НЛО

Передовые технологии в Зоне 51

Правительству пора обнародовать материалы разбившихся НЛО

Призраки Кондоррата

Программа Рональда Рейгана - Звездные войны

Проект обратного проектирования НЛО должен быть обнародован

Сборник отчетов о встречах с снежным человеком

Странные исчезновения в загадочном треугольнике Канады

Странные, сверхъестественные и зловещие птицы

Теории о недавних наблюдениях НЛО

Ученый разгадал тайну Бермудского треугольника

Феномен русалок и водяных

Штат Вашингтон является лучшим местом для наблюдений НЛО

Подборка статей из газет и журналов

Бетельгейзе скоро превратится в сверхновую звезду

Живая тень попала на камеру наблюдения в Коста-Рике

Загадочные черточки обнаружены в центре галактики

Засекреченное дело 'Сферы Мосула'

Затерянные города нигерийской Сахары

Из 800 наблюдений НЛО немногие остаются загадкой

ИИ за один только май лишил работы 3900 человек в США

ИИ уничтожит человечество с вероятностью 50%

Когда произойдет новый контакт НЛО с людьми

Насколько достоверны сообщения об НЛО

Некоторые НЛО могут иметь внеземное происхождение

Открыты газопылевые спицы, окружающие черную дыру

Пентагон расследовал более 800 сообщений об НЛО

Первая прямая трансляция c Марса

Появился новый класс материалов

Правда ли, что богатые люди умнее

Фермеры учатся жить с большими черными кошками

Черной дыры могут испаряться

Что команда НАСА узнала о НЛО

Эксперт предложил учредить в НАСА отдел по изучению НЛО

Как проходит операция по удалению катаракты

АНБ следит за всеми владельцами iPhone

Аномальные явления в заброшенной больнице

Ведущие разработчики ИИ назвали свои продукты угрозой

Вероятность сценария Терминатора близка к нулю

Вещий сон, Сатана и иная реальность

Всем желающим предложили поискать новые астероиды

Газовые экзопланеты не появляются вокруг красных карликов

Дыхание между атомами - строительный блок квантовой технологии

Загадочные Психопомпы

Историю НЛО переписывают

Как бороться с враньём ChatGPT

Космические притягивающие лучи не за горами

НАСА опровергло взаимосвязь НЛО с внеземной жизнью

НАСА организует дополнительное наблюдение за НЛО

Новая теория обьясняет богатую кислородом атмосферу Земли

Основные выводы НАСА об НЛО

Следы древних цивилизаций на Марсе

Технология ИИ может привести к вымиранию человечества

Фермер увидел бигфута с красными глазами

Человечество предупредили о риске массовых манипуляций

Египтолог говорит, что проклятие мумии реально

Женщина дремала на диване, когда метеорит попал в нее

Жуткий случай с воображаемым другом

Загадочная ультрагорячая атмосфера экзопланеты WASP-18b

Загадочный бермудский треугольник парка Йосемити

Инопланетяне прячутся на луне Сатурна

Исследователи решили загадку пояса Койпера

Как стало известно о приземлении НЛО в Рендлшемском лесу

НАСА представило первые результаты исследования НЛО

Необходимо получить более качественные данные о НЛО

НЛО обнаружили рядом с особняком принца Гарри и Меган Маркл

Правда о чуде монахини из штата Миссури

Предсказание Галтунга о судьбе России

Проблемы с данными затрудняют объяснение НЛО

Расшифровка наблюдений НЛО зависит от качественных данных

Розуэлл готовится к ежегодному фестивалю НЛО

Три самых опасных криптидных существа

Уфолог заявил о прилетах инопланетян в Россию

Целевая группа НАСА по НЛО провела первое публичное собрание

Экспертам нужны более качественные данные о НЛО

Встречи с существами, похожими на черные капли

Готовимся к новой пандемии

Как будут выглядеть дома к 2050 году

Корабли инопланетян замечены над Калининградом

Межзвездные объекты могут быть захвачены гравитацией Земли

Нейтрон может помочь разгадать тайны Вселенной

Необьясненные наблюдения НЛО в Миссури

Нижнекамцы заметили посадку НЛО

Новая квази-луна появилась у Земли

Новое ПО поможет в поиске внеземного разума

Обнаружили три последние планеты, которые наблюдал Кеплер

Перспективы климатического модифицирования

Разработали метод проектирования адаптивных роботов

Реальны ли наблюдения НЛО

Робот-кентавр поможет России колонизировать Луну

След бигфута обнаружен в южной Калифорнии

Смартфон Apple замечен на старой картине

Технологию передачи солнечной энергии из космоса протестируют

Ученые воссоздают Марс на глубине одной мили

Энцелад истекает водой

Важные правительственные документы о Розуэлле

Воздушные шары - важная часть истории летающих тарелок

Вот почему мы не обнаружили инопланетян

Встреча с бигфутом в Пенсильвании

Гигантский водяной гейзер обнаружен на Энцеладе

Документы Маджестик-12. Правда или дезинформация

Излучение струй черных дыр неожиданно меняется

Инопланетный космический мусор находится на орбите Земли

Майнинг астероидов приближается к реальности

НЛО и секретные эксперименты

НЛО сняли средь бела дня

Опасные незнакомцы в ночи

Рассказ об очень странном монстре в Верхнем озере

Совершенно секретное происхождение Зоны 51

США, Великобритания, Россия и летающие тарелки

Треть экзопланет находится в обитаемой зоне

Убийство, к которому был причастен Ли Харви Освальд

Ужасное похищение инопланетянами в пустыне Мохаве

Человек, который знал всю историю Розуэлла

Человек, который положил начало феномену НЛО

Особенности обслуживания самолетов

Адвокат воспользовался ChatGPT и сильно пожалел

Вопрос времени, когда НЛО начнут сбивать самолеты

ИИ основательно перекроит рынок труда

Инопланетяне посещают Уэльс

Инопланетяне реальны, я видел их и их подземную базу

Инцидент в Розуэлле не был крушением НЛО

Математик Сидик Афган предсказал жуткое событие летом

Мега-монстры, ФБР и тайны

Невероятные встречи с невидимыми сущностями

Необычное отношение к еде у Людей в черном

НЛО видели над США на протяжении десятилетий

Перистан - легендарная земля фей

Призраки открывают двери по команде

Приложение для сообщений о наблюдениях НЛО

Реверсивное проектирование разбившихся НЛО

Связь между Джоном Килом, Розуэллом и Японией

Странные случаи исчезновения людей

Тело монахини не разложилось за четыре года

Теория, объясняющая часть мира неуловимых монстров

Ужасный инцидент, который был сокрыт фальшивой катастрофой НЛО

Патентование. Зачем оно нужно и в чем его особенности

Воду Ноя обнаружили в Кольской сверхглубокой скважине

Имитация жизни на Марсе

Инопланетяне всегда были на Земле

Казненных ведьм оправдали в Коннектикуте

Как лучше всего избавиться от криптозоологического существа

Когда-то в озере Лох-Несс жило еще одно чудовище

Могут ли бигфуты быть хорошими пловцами

Морские монстры с человеческими руками

НЛО над Коннектикутом. Круги и огненные шары

НЛО над крупной базой морской пехоты США

Око Сахары - Атлантида. Есть ли достаточные доказательства

Опасные монстры в шотландских озерах

Открывается туристический центр лохнесского чудовища

Пилот заметил НЛО, наблюдая за звездами

По меньшей мере 119 НЛО потерпели крушение на Земле

Программы анализа материалов и обратного проектирования НЛО

Странные случаи пойманных морских и озерных чудовищ

Существует ли древняя подземная цивилизация

Тайна мумии человека-крысы

Троуп среди 46 городов Техаса, в которых видели НЛО

Rusrepa.com - сайт отзывов о бизнесе и компаниях

Otzovichka.ru - преимущества заработка на сайте отзывов

АФИН - что за Академия финансовых инвестиций. Отзывы о afin.online

Афганский пророк-математик рассказал о будущем

Владелец ранчо Скинуокеров поделился историей об НЛО

Глаза статуй Древнего Египта - дар или что-то другое

Жуткий город-призрак тайно купили за $22 млн

ИИ-фейки наводнили интернет перед выборами в США

Информационная карточка о НЛО министерства обороны США

Использование ChatGPT в классе финансовых технологий

Как высоко бы ты прыгал на других планетах

Каталогизируют все известные трехзвездные системы с планетами

Корпорация Microsoft призвала создать агентства для регулирования ИИ

Мощность ИИ возрастет в 100 тыс. раз за 10 лет

Мрачный Жнец реален и бродит по Великобритании

Объявлены хедлайнеры фестиваля НЛО в Розуэлле

Очевидцы могут сообщить о НЛО через приложение Enigma

Первое свидетельство редкого распада бозона Хиггса

Потенциально опасный астероид скоро сблизится с Землей

Пристальный взгляд на треугольный НЛО Мохаве

Странная система может содержать звезду из темной материи

Черные проекты Вашингтона вокруг НЛО

Подписка на новости
Наверх
Яндекс.Метрика