ИИ распространяет фейки с угрожающей скоростью
Инструменты генеративного искусственного интеллекта (ИИ) усугубляют проблему дезинформации, дезинформативных сообщений и поддельных новостей. ChatGPT от OpenAI, Gemini от Google и различные генераторы изображений, голоса и видео упростили создание контента как никогда, но в то же время усложнили определение того, что является фактическим или реальным. Злоумышленники, стремящиеся распространять дезинформацию, могут использовать инструменты искусственного интеллекта для значительной автоматизации генерации убедительного и вводящего в заблуждение текста. Это поднимает насущные вопросы: сколько контента, который мы потребляем онлайн, соответствует действительности и как мы можем определить его подлинность? И может ли кто-нибудь остановить это? Это не праздная озабоченность. Организации, стремящиеся тайно влиять на общественное мнение или повлиять на выборы, теперь могут масштабировать свои операции с использованием ИИ до беспрецедентного уровня. И их контент широко распространяется поисковыми системами и социальными сетями.
Ранее в этом году немецкое исследование качества контента поисковых систем отметило "тенденцию к упрощенному, повторяющемуся и потенциально генерируемому искусственным интеллектом контенту" в Google, Bing и DuckDuckGo. Традиционно читатели новостных СМИ могли полагаться на редакционный контроль для соблюдения журналистских стандартов и проверки фактов. Но искусственный интеллект быстро меняет это пространство. В отчете, опубликованном на этой неделе, интернет-трастовая организация NewsGuard выявила 725 ненадежных веб-сайтов, которые публикуют новости и информацию, сгенерированные искусственным интеллектом, "практически без контроля со стороны человека". В прошлом месяце Google выпустила экспериментальный инструмент искусственного интеллекта для избранной группы независимых издателей в Соединенных Штатах. Используя генеративный искусственный интеллект, издатель может обобщать статьи, взятые из списка внешних веб-сайтов, которые публикуют новости и контент, релевантный их аудитории. В качестве условия испытания пользователи должны публиковать три такие статьи в день.
Платформы, размещающие контент и разрабатывающие генеративный искусственный интеллект, стирают традиционные границы, позволяющие доверять онлайн-контенту. Австралия уже стала свидетелем столкновений между правительством и онлайн-платформами по поводу отображения и модерации новостей и контента. В 2019 году правительство Австралии внесло поправки в уголовный кодекс, предписывающие быстрое удаление "отвратительных материалов с применением насилия" платформами социальных сетей. Расследование Австралийской комиссии по конкуренции и защите прав потребителей (ACCC) о дисбалансе власти между австралийскими новостными СМИ и цифровыми платформами привело к введению в действие в 2021 году кодекса ведения переговоров, который заставлял платформы платить СМИ за их новостной контент. Хотя это можно считать частичным успехом, они также демонстрируют масштаб проблемы и сложность принятия мер. Наше исследование показывает, что в ходе этих конфликтов онлайн-платформы сначала были открыты для изменений, а затем сопротивлялись им, в то время как правительство Австралии колебалось от применения обязательных мер к добровольным действиям.
В конечном счете, правительство осознало, что полагаться на обещания платформ "доверяйте нам" не приведет к желаемым результатам. Вывод из нашего исследования заключается в том, что как только цифровые продукты становятся неотъемлемой частью миллионов предприятий и повседневной жизни, они служат инструментом для платформ, компаний с искусственным интеллектом и крупных технологических компаний, позволяющим предвидеть действия правительства и противодействовать им. Имея это в виду, правильно скептически относиться к ранним призывам к регулированию генеративного ИИ со стороны технологических лидеров, таких как Илон Маск и Сэм Альтман. Такие призывы ослабли по мере того, как ИИ овладевает нашей жизнью и онлайн-контентом. Проблема заключается в самой скорости изменений, которые настолько стремительны, что меры предосторожности для снижения потенциальных рисков для общества еще не созданы. Соответственно, в Докладе Всемирного экономического форума о глобальных рисках за 2024 год неверные данные и дезинформация названы самыми серьезными угрозами в ближайшие два года.
Проблема усугубляется из-за способности генеративного ИИ создавать мультимедийный контент. Исходя из текущих тенденций, мы можем ожидать увеличения числа случаев глубокой подделки, хотя платформы социальных сетей, такие как Facebook, реагируют на эти проблемы. Они нацелены на автоматическую идентификацию и помечение фотографий, видео и аудио, сгенерированных ИИ. Австралийский комиссар по безопасности работает над способами регулирования и смягчения потенциального вреда, наносимого генеративным ИИ, при одновременном балансировании его потенциальных возможностей. Ключевая идея - "безопасность по замыслу", которая требует, чтобы технологические фирмы ставили эти соображения безопасности во главу угла своих продуктов. Другие страны, такие как США, продвинулись дальше в регулировании ИИ. Например, недавний исполнительный указ президента США Джо Байдена о безопасном внедрении искусственного интеллекта требует от компаний делиться результатами тестов безопасности с правительством, регулирует тестирование red-team (имитация хакерских атак) и устанавливает правила нанесения водяных знаков на контент.
Мы призываем к трем шагам, которые помогут защититься от рисков, связанных с генеративным искусственным интеллектом в сочетании с дезинформацией.
- Регулирование должно устанавливать четкие правила, не допуская туманных целей "приложить максимум усилий" или подходов "доверьтесь нам".
- Для защиты от крупномасштабных операций по дезинформации нам необходимо обучать медиаграмотности так же, как мы обучаем математике.
- Технология обеспечения безопасности или "безопасность по замыслу" должна стать неотъемлемой частью стратегии разработки каждого продукта.
Люди знают, что количество контента, генерируемого искусственным интеллектом, растет. Теоретически, они должны соответствующим образом скорректировать свои информационные привычки. Однако исследования показывают, что пользователи, как правило, склонны недооценивать свой собственный риск поверить поддельным новостям по сравнению с предполагаемым риском для других. Поиск заслуживающего доверия контента не должен включать в себя просеивание контента, созданного искусственным интеллектом, чтобы понять, что является фактическим.
Источник
При использовании материалов с сайта активная ссылка на него обязательна
Последние аномальные новости

Билл Гейтс поддерживает искусственный интеллект

В небе Калифорнии замечен таинственный объект

В пещерах на Марсе могут находиться инопланетяне

Геолог-любитель получил сильные ожоги от НЛО

Житель Лондона принял вертолет за НЛО

За НЛО отправляйтесь в маленький городок в Висконсине

Звездолеты помогут в поисках новых физических явлений

Интернет может достичь квантовой скорости

Космические силы США готовятся к первой в истории миссии

Министерство обороны публикует документы Kona Blue

Нейтронные звезды нагреваются от аннигиляции темной материи

Нострадамус предсказал войну в 2024 году

Победителем президентских выборов в 2032 году станет робот

Подводные НЛО ставят под угрозу морскую безопасность США

Подводный НЛО сняло исследовательское судно

Проклятая могила с 450 обезглавленными вампирами

Рассекреченный отчет раскрывает дематериализацию НЛО

Тайна высоких уровней энергии в звездных сверхвспышках

Уважаемый астроном не верит в теории заговора об НЛО

Ярчайший гамма-всплеск породила коллапсирующая звезда

Франшиза Pro.Travel. Предпринимательский успех Татьяны Мамаевой

Возвращение денежных средств пострадавшим от брокеров-мошенников. Путь к справедливости

Встреча с НЛО, от которой у человека расплавились пальцы

Детеныш инопланетянина найден в мексиканской пещере

Инопланетяне помешали человечеству скатиться к ядерной войне

Как ученые сообщат человечеству об инопланетянах

Канадский рейтинг мест для наблюдения НЛО

Ключ к поиску жизни в отдаленных мирах

Лучшие наблюдения НЛО в Северной Каролине

Люди не верят, что никаких НЛО нет

Мужчина получил сильные ожоги при встрече с НЛО

Мужчина с разбитым сердцем построил Космические врата

Музей странного и чудесного в Канзасе

Настоящие убежища из сериала Fallout уже построены

НЛО заметили над долиной Нижнего Гудзона

НЛО около Антарктиды - ошибка программного обеспечения

НЛО представляют угрозу безопасность на море

Подводные НЛО ставят под угрозу морскую безопасность США

Призрачные нарушения звездных потоков темной материей

Термодинамика поможет описать расширение Вселенной

Что это за НЛО замечен над штатом Нью-Йорк

Эксцентриситет орбиты создал океан на Мимасе

Более четверти россиян верят в существование инопланетян

Гигантские человеческие скелеты в пещере Лавлок

Глобальное потепление лишит Антарктиду 76% метеоритов

Девочки-близнецы испытывают одинаковые чувства

Древнеиндийская мандала в районе линий Наска

Древние легенды и мифы рассказывают о ануннаках

Женщина чудом выжила после удара молнии

ИИ может притворяться более глупым, чем есть на самом деле

История об оборотнях пронизана загадками и тайнами

Клетки поджелудочной железы пересадят от свиньи человеку

Космические кладбища, затмение и ждать ли НЛО

Космические силы США планируют провести учения на орбите

Магическая сила, делающее тело неуязвимым

Маленькие человечки похитили мужчину

Под Уфой заметили НЛО

Таинственные лабиринты Чинканас

Тайна упавшей в Омске кометы и 17000 фото НЛО

Тайны европейских подземных тоннелей

Тело фанатки вампиров нашли обескровленным

Экстрасенс нашел место захоронения пропавшего мальчика

Гильотинные ножницы по металлу. Назначение и критерии выбора

Как выбрать массажное кресло

Франшиза CyberSeller под управлением Азата Аширова

Большинство людей хотят заниматься сексом с роботами

Будущие эпидемии могут возникнуть из-за ИИ

В Башкирии жители заметили НЛО в небе

В новом отчете Пентагона по НЛО есть серьезные недостатки

Вычисление точных размеров экзопланет

Зонд для поисков жизни на спутниках Юпитера

Кислород и углерод улетучиваются из магнитосферы Венеры

Мы не готовы к вторжению инопланетян

НЛО замечен небе над Екатеринбургом

Новая идея для космических солнечных батарей

Обнаружены звездные ветры от трех солнцеподобных звезд

Поиски неуловимого Лох-Несского чудовища

Призрак опрокидывает напитки в одном из пабов Британии

Странный сигарообразный НЛО над шоссе в Миссури

Существо-муравей замечено на Марсе

Тёмная материя повышенной плотности существует

Ужасающая реальность ядерной радиации

Уэльс - горячая точка внеземной активности

Человек-сатана сменил имя на Дьявол

Ярчайший гамма-всплеск произошел из-за коллапса звезды

Беспроводная передача энергии поможет изучить Луну

Бывшая жена призрака стала ведьмой

В поисках асимметрии между материей и антивеществом

Какая часть атмосферы Венеры образуется за счет вулканов

Наблюдения НЛО в Канаде продолжаются

НАСА попросили помочь в поисках Лох-Несского чудовища

Необъяснимая аномалия вблизи Антарктиды движется на север

Новый сейсмодатчик для обнаружения лунотрясений

Порнозвезда рассказала о своем столкновении с призраками

Раскрывая секреты НЛО. Взгляд доктора Стивена Грира

Солнечные паруса нового поколения готовы к запуску

Столкновение звезд раскрывает звездную тайну

Терминаторы могут появиться уже в следующем году

Триггеры нового поколения для детекторов ЦЕРН

Удивительные горячие точки НЛО в Техасе

Ученые БАК изучают звездные пути инопланетян

Физика и математика стоящие за 'Задачей трех тел'

Человек появился спустя 30 лет без памяти

Черная дыра замечена вблизи Кейптауна

Черный НЛО замечен над океаном около Тампы

Для изучения астероидов потребуются разумные зонды

Доказательство путешествий во времени

Дьявол будет парить в вышине, вызывая изумление

Если на Европе и есть гейзеры, то они очень слабые

Затмения лежат в основе усилий по изучению экзопланет

ИИ может воспроизвести голос любого человека

Как искусственные сотрудники повлияют на живых

Конспирологи опасаются демонических порталов

Люди плохо разбираются в теориях заговора

Новая свидетельница похищения инопланетянами в Паскагуле

Обнаружена новая молодая и теплая экзопланета

Питательные вещества для жизни на экзопланетах

Платформа из графита левитирует без электричества

Пугающая деталь в паспорте Нео

Роль Млечного Пути в древнеегипетской мифологии

Создатель аугментов вернулся к работе

Техас заменяет тысячи экзаменаторов-людей на ИИ

Технологии НАСА помогают защититься от лунной пыли

Фирма Synchron начинает испытания мозговых чипов на людях

Что будет с Землей, когда погаснет Солнце

Бигфут скрывается в горах с таинственной энергией

Биокомпоненты оказались стабильны в атмосфере Венеры

В Сочи корабли полетели над морем

Звезда бросает вызов происхождению быстрых радиовсплесков

НЛО в Розуэлле по-прежнему окутывает Вашингтон

Паранормальная природа встреч с НЛО и связь между ними

Почему так трудно бурить на поверхности планет

Разоблачители и поиск внеземной жизни

Самое необычное место для отдыха в Колорадо

Смотрите фильмы о непознанном на Netflix

Создали метажидкость с программируемыми свойствами

Тайна мумии русалки раскрыта

Тайна однобокой геологии Луны

Теории заговора вокруг Георга III и королевы Шарлотты

Ужасные рога мужчины-дьявола и женщины-носорога

Ученые БАК пытаются открыть пути инопланетян

Четыре ключевых вопроса об инопланетных технологиях

Что мы могли бы построить из лунного реголита

Южнокорейский зонд приняли за НЛО

Я был похищен долговязыми инопланетянами

Автостоянки у супермаркетов не интересуют НЛО

В Массачусетсе происходят массовые наблюдения НЛО

В Уэльсе было зарегистрировано 323 случая наблюдения НЛО

Если на Европе существует жизнь её обнаружат

Инопланетные шарики, выловленные из Тихого океана

Конспирологи считают ЦЕРН угрозой миру

Министерство обороны опубликовало досье об НЛО

НАСА сняло НЛО, летящий над Луной

НЛО был замечен над Арлингтоном

НЛО замечен над Техасом во время солнечного затмения

НЛО прилетают в Уэльс не за мясом

НЛО прилетают к нам через дополнительные измерения

Перуанские мумии инопланетян требуют новых исследований

Правда об НЛО вызовет беспорядки

Пульсирующий синий НЛО снят над Финиксом

Режиссер делится своим Ангельским опытом

Существуют ли НЛО на самом деле

Ускоренное расширение Вселенной замедляется

Файлы необъяснимого стал самым популярным шоу Netflix

Что такое Гаванский синдром

Знакомство с миром гелиевых воздушных шаров

iPhone 15 Pro Max 512 GB Blue. Преимущества и технические характеристики

Данных для обучения ИИ перестало хватать

Жуткие предсказания Ванги на 2024 год

ИИ можно заставить говорить на запрещённые темы

Илон Маск рассказал о планах по колонизации Марса

Кракен, живущий в районе Багамских островов

Кристалл, охлаждающий вещества до сверхнизких температур

Матрица - фильм о возможностях человеческого мозга

Могли ли люди и динозавры жить вместе

Написанные ИИ книги появились в Google Books

Невидимый душитель на ферме

НЛО заметили на границе между Ираном и Ираком

Облака необычной формы заинтересовали воронежцев

Околосмертный опыт Микки Робинсона

Пилотируемый полет на Марс состоится нескоро

Полтергейст на ферме в Коннектикуте

Росатом разработал двигатель для межпланетных путешествий

Странная смерть и жуткие увечья старушки

Странные случаи загадочных и невероятных убийств

Теория, согласно которой все люди - персонажи фильмов

Подписка на новости
Наверх