|
Поддельные аккаунты в соцсетях распространяют конспирологию
|
|
|
|
Новое исследование выявляет распространенность поддельных аккаунтов в социальных сетях, использующих изображения, созданные искусственным интеллектом, и их причастность к распространению дезинформации в Интернете.
|
|
|
|
Анализ миллионов профилей в социальных сетях на X (ранее Twitter) показал, что тысячи пользователей, использующих созданные с помощью искусственного интеллекта изображения профилей, которые выглядят как реальные люди, скорее всего, являются поддельными аккаунтами. Это было определено на основе таких факторов, как дата их создания, количество подписчиков, на которые они подписаны, общее количество аккаунтов, на которые они подписаны, контент, который они публикуют, и их общее поведение.
|
|
|
|
Исследователи, стоящие за исследованием, которое проводилось в 2023 году, когда X еще был известен как Twitter, говорят, что они начали с пула из примерно 15 миллионов аккаунтов. После исключения тех, у кого не было фотографий, команда обнаружила, что у 0,052% из оставшихся 43% в качестве аватара было сгенерированное искусственным интеллектом изображение профиля человека. Исследователи отмечают, что, хотя это и небольшая часть от общего числа, количество аккаунтов с изображениями, созданными с помощью искусственного интеллекта, исчисляется тысячами, из них 7 723 подтвержденных изображений, созданных с помощью искусственного интеллекта.
|
|
|
|
|
|
|
“Это может показаться незначительным, но такие изображения занимают видное место в Twitter”, - сказал ведущий автор исследования Йонас Рикер из Рурского университета в Бохуме, Германия. “Наш анализ также показывает, что многие аккаунты являются поддельными профилями, которые распространяют, например, политическую пропаганду и теории заговора”.
|
|
|
|
Помимо распространения дезинформации, аккаунты с изображениями, созданными с помощью искусственного интеллекта, содержали несколько признаков, указывающих на то, что они поддельные. Например, у этих аккаунтов в среднем было меньше подписчиков, чем у аккаунтов без изображений профиля, созданных с помощью искусственного интеллекта. Команда также обнаружила характерную закономерность в датах создания этих аккаунтов.
|
|
|
|
“Мы также заметили, что более половины аккаунтов с поддельными изображениями были впервые созданы в 2023 году; в некоторых случаях сотни аккаунтов были созданы за считанные часы – явный признак того, что они не были настоящими пользователями”, - пояснил Рикер.
|
|
|
|
После ручной проверки нескольких аккаунтов, чтобы подтвердить свои первоначальные выводы, исследовательская группа ждала девять месяцев. Когда они вернулись к проверке аккаунтов с изображениями профиля, созданными с помощью искусственного интеллекта, на аналогичные аккаунты с подлинными фотографиями, они обнаружили, что более половины аккаунтов с изображениями, созданными с помощью искусственного интеллекта, были заблокированы Twitter. По словам Рикера, компания, блокирующая эти аккаунты, является “еще одним свидетельством того, что эти аккаунты действовали недобросовестно”.
|
|
|
|
Анализ контента, которым делятся эти аккаунты, также выявил некоторые общие темы. По словам исследователей, в поддельных аккаунтах Twitter регулярно публиковались теории заговора, связанные с избранным президентом Дональдом Трампом, пандемией COVID-19 и вакцинациями, продолжающейся войной на Украине, а также истории о лотереях и финансах, включая криптовалюты. Хотя эти закономерности не обязательно указывают на то, что это были поддельные аккаунты в Twitter, исследователи отмечают, что сочетание изображения профиля, сгенерированного искусственным интеллектом, и других наблюдаемых закономерностей придает этой концепции некоторую достоверность.
|
|
|
|
“Мы можем только предполагать, что там происходит”, - сказал Рикер. “Но справедливо предположить, что некоторые аккаунты были созданы для распространения целенаправленной дезинформации и политической пропаганды”.
|
|
|
|
Для этого исследования исследователи ограничили поиск изображений профиля, созданных с помощью искусственного интеллекта, режимом StyleGAN 2. Веб-сайт thispersondoesnotexist.com прославил этот генератор изображений с помощью искусственного интеллекта, создавая изображения поддельных людей, которые выглядят как настоящие.
|
|
|
|
“Мы предполагаем, что этот сайт часто используется для создания изображений профиля, созданных с помощью искусственного интеллекта”, - говорит Рикер. “Это связано с тем, что такие изображения, созданные с помощью искусственного интеллекта, сложнее отследить, чем когда кто-то использует реальное изображение незнакомца в качестве своего аватара”.
|
|
|
|
В будущих исследованиях команда планирует расширить свой поиск с помощью более современных моделей искусственного интеллекта, которые, как они надеются, позволят выявить еще больший процент потенциально поддельных аккаунтов Twitter. Однако они считают, что какой бы инструмент ни использовали создатели аккаунтов, он, скорее всего, работает по тому же принципу.
|
|
|
|
“Текущая версия искусственного интеллекта позволяет нам создавать обманчиво реалистичные изображения, которые можно использовать в социальных сетях для создания аккаунтов, которые кажутся реальными”, - пояснил Рикер.
|
|
|
|
Источник
|
