|
ИИ DeepSeek уличили в передаче данных без шифрования
|
|
|
|
Оценка безопасности и конфиденциальности мобильного приложения NowSecure выявила многочисленные проблемы с безопасностью и конфиденциальностью в мобильном приложении DeepSeek для iOS, которые заставляют нас настоятельно рекомендовать предприятиям запретить его использование в своих организациях.
|
|
|
|
Приложение DeepSeek для iOS, которое с 25 января 2025 года стало самым популярным приложением для iOS, уже загружено и используется на миллионах устройств, принадлежащих частным лицам, предприятиям и государственным служащим, что привело к запретам swift со стороны стран, правительств штатов и федерального правительства, а также вооруженных сил США для защиты своих организаций и обеспечения национальной безопасности.
|
|
|
|
основные положения
|
|
|
|
Компания NowSecure провела всестороннюю оценку безопасности и конфиденциальности мобильного приложения DeepSeek для iOS, выявив множество критических уязвимостей, которые подвергают риску частных лиц, предприятия и правительственные учреждения. Эти результаты свидетельствуют о том, что организациям необходимо немедленно запретить использование приложения для защиты конфиденциальных данных и снижения потенциальных киберрисков.
|
|
|
|
|
|
|
Выявлены основные риски:
|
|
|
|
- Передача данных в незашифрованном виде: Приложение передает конфиденциальные данные через Интернет без шифрования, что делает их уязвимыми для перехвата и манипуляций.
|
|
- Слабые и жестко зашифрованные ключи шифрования: используется устаревшее шифрование Triple DES, повторно используются векторы инициализации и жестко зашифрованные ключи шифрования, что нарушает рекомендации по обеспечению безопасности.
|
|
- Небезопасное хранение данных: Имя пользователя, пароль и ключи шифрования хранятся небезопасно, что увеличивает риск кражи учетных данных.
|
|
- Обширный сбор данных и снятие отпечатков пальцев: Приложение собирает данные о пользователях и устройствах, которые могут быть использованы для отслеживания и деанонимизации.
|
|
- Данные, отправленные в Китай и регулируемые законами КНР: Пользовательские данные передаются на серверы, контролируемые ByteDance, что вызывает обеспокоенность по поводу рисков доступа правительства и соблюдения требований законодательства.
|
|
|
|
Последствия для предприятий и государственных учреждений:
|
|
|
|
- Раскрытие конфиденциальных данных, включая оперативные данные; интеллектуальную собственность, стратегические планы и конфиденциальную переписку.
|
|
- Повышенный риск слежки из-за снятия отпечатков пальцев и сбора данных.
|
|
- Риски, связанные с регулированием и соблюдением требований законодательства, поскольку данные хранятся и обрабатываются в Китае в соответствии с его законодательством.
|
|
|
|
Рекомендуемые действия:
|
|
|
|
NowSecure призывает предприятия и агентства:
|
|
|
|
- Немедленно удалить приложение DeepSeek для iOS из управляемых сред и среды BYOD.
|
|
- Изучить альтернативные платформы искусственного интеллекта, которые уделяют приоритетное внимание безопасности мобильных приложений и защите данных.
|
|
- Постоянно отслеживать все мобильные приложения для выявления возникающих рисков.
|
|
|
|
Краткое описание рисков
|
|
|
|
Недавний анализ конфиденциальности DeepSeek был сосредоточен на Политике конфиденциальности и условиях предоставления услуг. Однако NowSecure проанализировала приложение для iOS, запустив и проверив мобильное приложение на реальных устройствах iOS, чтобы выявить подтвержденные уязвимости в системе безопасности и проблемы с конфиденциальностью. Мы публикуем этот отчет, учитывая непосредственный риск, с которым сталкиваются пользователи, предприятия и правительственные учреждения, и, что немаловажно, неотложные действия, которые они должны предпринять. В частности, пользователи могут использовать модель искусственного интеллекта DeepSeek с помощью самостоятельного хостинга, размещенных версий от таких компаний, как Microsoft, или просто использовать другие возможности искусственного интеллекта. Примечание: даже при использовании самостоятельных или других размещенных версий DeepSeek встроенная в модель цензура все равно будет существовать, если модель не будет настроена индивидуально.
|
|
|
|
NowSecure рекомендует организациям удалить мобильное приложение DeepSeek для iOS из своей среды (управляемые развертывания и развертывания BYOD) из-за угроз конфиденциальности и безопасности, таких как:
|
|
|
|
- Проблемы с конфиденциальностью из-за небезопасной передачи данных
|
|
- Проблемы с уязвимостями из-за жестко закодированных ключей
|
|
- Обмен данными с третьими сторонами, такими как ByteDance
|
|
- Анализ и хранение данных в Китае
|
|
|
|
Перечисленные выше проблемы могут привести к:
|
|
|
|
- Потеря интеллектуальной собственности и конфиденциальных данных
|
|
- Нарушение целостности данных из-за недостатков в системе безопасности
|
|
- Отслеживание и слежка за сбором данных
|
|
- Потеря контроля над данными, отправляемыми в Китай и управляемыми им
|
|
|
|
Помимо удаления мобильного приложения DeepSeek для iOS, частные лица, компании и правительственные учреждения могут предпринять дополнительные шаги для снижения рисков, связанных с мобильными приложениями. Поскольку мобильные приложения быстро меняются и в значительной степени не защищены от атак, они представляют собой реальную угрозу для компаний и потребителей. DeepSeek популярен, но не уникален. Ключевым средством снижения рисков является мониторинг мобильных приложений, которые вы используете, чтобы избежать появления новых рисков. Подключитесь к NowSecure и узнайте, какие скрытые риски скрываются в популярных мобильных приложениях, используемых на предприятии.
|
|
|
|
Незашифрованные данные, доступные и изменяемые по сети
|
|
|
|
Приложение DeepSeek для iOS отправляет некоторые регистрационные данные мобильного приложения и устройства через Интернет без шифрования. Это делает любые данные в интернет-трафике уязвимыми как для пассивных, так и для активных атак. Злоумышленник может пассивно отслеживать весь трафик и получать важную информацию о пользователях приложения DeepSeek. Несмотря на то, что Apple имеет встроенные средства защиты платформы для защиты разработчиков от внедрения этого недостатка, защита была отключена в глобальном масштабе для приложения DeepSeek для iOS. Дополнительные сведения см. в разделе "Отсутствующие элементы управления конфиденциальностью и безопасностью iOS".
|
|
|
|
Злоумышленник, имеющий привилегированный доступ к сети (известный как атака "Человек посередине"), также может перехватить и изменить данные, что повлияет на целостность приложения и данных. В частности, хакерская атака на интернет-провайдеров США, совершенная в конце 2024 года базирующейся в Китае компанией “Солт Тайфун”, позволила бы проводить эти атаки против любого, кто использует интернет-провайдеров для доступа к данным.
|
|
|
|
Когда пользователь впервые запускает приложение DeepSeek для iOS, оно взаимодействует с серверной инфраструктурой DeepSeek для настройки приложения, регистрации устройства и создания механизма создания профиля устройства. Даже если сеть настроена на активную атаку на мобильное приложение (с помощью MITM-атаки), приложение все равно выполняет эти действия, которые позволяют проводить как пассивные, так и активные атаки на данные.
|
|
|
|
Мы видим, что некоторые идентифицирующие данные передаются ненадежно, в том числе информация о том, какие языки настроены для устройства (например, язык настройки (английский) и пользовательский агент с подробными сведениями об устройстве), а также информация об идентификаторе организации для вашей установки (“P9usCUBauxft8eAmUXaZ”, которая отображается в последующих запросах) и основные данные. информация об устройстве (например, операционная система).
|
|
|
|
Хотя ни одна из этих данных, взятых по отдельности, не представляет особого риска, объединение многих данных с течением времени быстро позволяет легко идентифицировать людей. Недавняя утечка данных из Gravy Analytics демонстрирует, что эти данные активно собираются в больших масштабах и могут эффективно обезличить миллионы людей.
|
|
|
|
Последующий запрос к конечной точке “deviceprofile” (http://fp-it.fengkongcloud.com/deviceprofile/v4) отправляет значительно больше данных, часть из которых сжата и зашифрована. Сервер отвечает зашифрованным идентификатором устройства.
|
|
|
|
Чтобы лучше понять, какие данные об установках приложений и пользователях собираются и передаются, ознакомьтесь с разделом "Собранные данные" ниже. Также важно еще раз подчеркнуть, что, поскольку все эти данные передаются в незашифрованном виде через Интернет, атака может привести к манипулированию данными и нарушению конфиденциальности и целостности данных приложения.
|
|
Небезопасное симметричное шифрование с использованием жестко закодированных ключей
|
|
|
|
Для защиты конфиденциальности и целостности данных в современных приложениях используется шифрование данных. Однако для защиты пользовательских данных шифрование должно быть реализовано надлежащим образом.
|
|
|
|
Приложение DeepSeek для iOS имеет множество недостатков в реализации шифрования. В одном случае к недостаткам относятся:
|
|
|
|
- Использование небезопасного алгоритма симметричного шифрования (3DES)
|
|
- Жестко закодированный ключ шифрования
|
|
- Использование нулевого значения в качестве вектора инициализации
|
|
- Повторное использование вектора инициализации (IV)
|
|
|
|
Алгоритм шифрования, выбранный для этой части приложения, использует известный алгоритм взломанного шифрования (3DES), что делает его плохим выбором для защиты конфиденциальности данных.
|
|
|
|
Исследовательская группа NowSecure провела дальнейший анализ приложения, используя два ключевых инструмента с открытым исходным кодом, которые мы спонсируем:
|
|
|
|
- r2ai, проект обратного проектирования radare2 с использованием искусственного интеллекта
|
|
- frida, платформа бинарного инструментария
|
|
|
|
Рассматриваемая функция является частью пользовательской службы под названием “BDAutoTrackLocalConfigService” и, в частности, вызова “saveUser”. Команда смогла определить параметры шифрования, включая нулевой вектор инициализации (из radare2) и жестко закодированный ключ шифрования (опущенный до тех пор, пока разработчик не исправит его).:
|
|
|
|
Используя способность Frida подключать функции приложения, исследовательская группа NowSecure также отследила вызовы CCCrypt, чтобы определить, какие данные шифруются и расшифровываются (идентификатор пользователя, генерируемый приложением), и проверить уязвимость в системе безопасности. Вот результат подключения функции шифрования к Frida, и мы включили скрипт Frida в приложение:
|
|
|
|
Имя пользователя, пароль и ключи шифрования хранятся небезопасно
|
|
|
|
Конфиденциальные данные были восстановлены в кэшированной базе данных на устройстве. При определенных условиях, в частности, при физическом доступе к разблокированному устройству, злоумышленник может восстановить эти данные и использовать их в своих целях.
|
|
|
|
Кэширование данных происходит, когда разработчики используют API NSURLRequest для связи с удаленными конечными точками. По умолчанию API кэширует HTTP-ответы в файле Cache.db, если только кэширование не отключено явным образом.
|
|
|
|
Ниже приведен отредактированный пример конфиденциальных данных, восстановленных из мобильного приложения.
|
|
|
|
Сбор данных и снятие отпечатков пальцев
|
|
|
|
Как уже говорилось выше, важно понимать, какие данные отслеживаются и собираются мобильными приложениями. Эти данные могут быть эффективно использованы для точной идентификации личности пользователя. Недавние взломы “брокеров данных”, таких как Gravy Analytics, и разоблачение insights о “несанкционированной слежке”, позволяющей идентифицировать и локализовать практически любого пользователя, демонстрируют мощь и угрозу массового сбора и обогащения данных из множества источников.
|
|
|
|
С этой целью в ходе нашего анализа были собраны некоторые данные, которые собираются и передаются приложением DeepSeek для iOS. Примечание: это не уникально, поскольку многие приложения следуют этому шаблону, но это важно понимать в контексте общей конфиденциальности.
|
|
|
|
Вот краткий пример того, как это может привести к значительному риску для предприятия или государственного учреждения. “Подсказка” от пользователя будет точно такой же.:
|
|
|
|
Какие элементы обычно используются в качестве наночастиц?
|
|
|
|
Хотя это интересный вопрос, контекст имеет значение. Давайте просто сравним несколько данных:
|
|
|
|
Хотя приведенный выше пример является надуманным, он демонстрирует, как относительно небольшое количество данных может существенно изменить то, как будет оцениваться запрос ИИ, как на него будут реагировать или даже как он будет проанализирован и собран для получения стратегической ценности. Исходя из нескольких собранных данных, пользователя 1, скорее всего, можно охарактеризовать как студента, работающего над исследовательской работой. Однако пользователь 2 работает на новейшем iPad, используя сотовое соединение для передачи данных, зарегистрированное на FirstNet (американского оператора широкополосной связи для обеспечения общественной безопасности), и, предположительно, этот пользователь будет рассматриваться как ценная цель для шпионажа.
|
|
|
|
Имейте в виду, что в приложении DeepSeek для iOS собираются не только десятки точек данных, но и связанные с ними данные из миллионов приложений, которые можно легко приобрести, объединить и затем сопоставить для быстрой деанонимизации пользователей.
|
|
|
|
Ниже приведены три примера данных, обрабатываемых приложением.
|
|
Данные передаются в Volcengine компанией Bytedance.
|
|
|
|
Volcengine - это платформа облачных сервисов, выпущенная компанией Bytedance в 2021 году, чтобы помочь предприятиям в цифровой трансформации. Связь Bytedance с Китаем хорошо налажена. Конфиденциальные данные или данные, пригодные для снятия отпечатков пальцев и отслеживания, выделены жирным шрифтом.
|
|
|
|
Данные отслеживания, обрабатываемые в мобильном приложении
|
|
|
|
На скриншоте ниже представлена дополнительная информация о данных отслеживания, обрабатываемых приложением. Примечательно, что свойство “a67” отслеживает название устройства, которое на многих устройствах iOS по умолчанию соответствует имени клиента, за которым следует устройство iOS. В этом примере вы можете видеть, что теперь будут существовать данные для привязки установки этого приложения для iOS и всех данных непосредственно ко мне.
|
|
|
|
Данные отправлены стороннему поставщику Intercom
|
|
|
|
Приложение DeepSeek для iOS также интегрирует пакет Intercom iOS SDK, и между двумя платформами осуществляется обмен данными. Мы снова видим примеры дополнительной проверки отпечатков пальцев, которые могут привести к деанонимизации пользователей. Например, этот поток данных отслеживает, является ли язык LTR (слева направо), цветовые схемы, is_voice_over_running и многое другое.
|
|
|
|
Отсутствуют элементы управления безопасностью iOS
|
|
|
|
В платформу iOS встроен ряд средств защиты, которые могут помочь разработчикам избежать непреднамеренного внедрения уязвимостей в области безопасности и конфиденциальности. Кроме того, у них есть строгие требования к конфиденциальности, которые приложения должны соблюдать, иначе их обновление может быть заблокировано или приложение будет полностью удалено.
|
|
|
|
Многие люди полагают, что в тестировании мобильных приложений нет необходимости, поскольку Apple и Google удаляют небезопасные приложения из своих магазинов. Однако это ошибочное мнение, которое подвергает риску пользователей, предприятия и агентства.
|
|
|
|
Ни Apple, ни Google не могут гарантировать полное удаление опасных приложений, поскольку их системы сканирования безопасности не являются всеобъемлющими. Несмотря на то, что у них есть процессы для выявления и удаления вредоносных приложений, а также полномочия блокировать обновления или удалять приложения, которые не соответствуют их политикам, многие мобильные приложения с проблемами безопасности или конфиденциальности остаются незамеченными.
|
|
|
|
Регулярное тестирование каждой новой версии приложения помогает предприятиям и учреждениям выявлять и устранять риски для безопасности и конфиденциальности, которые нарушают политику или превышают допустимый уровень риска.
|
|
Отключите безопасность транспорта приложений (ATS).
|
|
|
|
Приложение DeepSeek для iOS глобально отключает функцию транспортной безопасности приложений (ATS), которая представляет собой защиту на уровне платформы iOS, предотвращающую передачу конфиденциальных данных по незашифрованным каналам. Поскольку эта защита отключена, приложение может отправлять (и отправляет) незашифрованные данные через Интернет.
|
|
Использует несколько потенциальных API-интерфейсов для снятия отпечатков пальцев
|
|
|
|
Некоторые API-интерфейсы, такие как настройки пользователя по умолчанию, временная метка файла или загрузка системы, могут быть использованы не по назначению для доступа к сигналам устройства в попытке идентифицировать устройство или пользователя, что также известно как снятие отпечатков пальцев. В результате Apple требует, чтобы разработчики раскрывали информацию об использовании любых API-интерфейсов, чувствительных к конфиденциальности, в декларации конфиденциальности своих приложений.
|
|
|
|
При анализе доступных конфиденциальных API и отслеживаемых методов приложение DeepSeek для iOS демонстрирует поведение, указывающее на высокий риск снятия отпечатков пальцев и отслеживания. В настоящее время в данном техническом отчете не указаны особенности некоторых методов, но вы можете ознакомиться с приведенной ниже таблицей, чтобы получить доступ к списку API.
|
|
|
|
Сетевой трафик в Китай или к известным китайским компаниям
|
|
|
|
Также важно понимать, куда отправляются ваши данные, какие законы и нормативные акты распространяются на эти данные и как это может повлиять на ваш бизнес, интеллектуальную собственность, конфиденциальные данные клиентов или вашу личность.
|
|
|
|
Со временем мы стали свидетелями того, как компании развивают методы отправки данных в зарубежные страны. В первые дни трафик просто отправлялся непосредственно в зарубежные страны, и в приведенных ниже данных мы можем видеть географическое расположение некоторых конечных IP-адресов в Китае.
|
|
|
|
Однако существует множество причин, по которым компании могут отправлять данные на серверы в той или иной стране, включая производительность, нормативные требования или, что еще более гнусно, маскировку того, куда в конечном итоге будут отправлены или обработаны данные.
|
|
|
|
С этой целью, даже если конечная точка IP находится в Соединенных Штатах, полезно изучить Организацию, чтобы определить, кому принадлежат эти IP-адреса. В ряде случаев мы выявляем известные китайские компании, такие как ByteDance, Inc., серверы которых расположены в Соединенных Штатах, но которые могут передавать, обрабатывать данные или получать к ним доступ из Китая.
|
|
|
|
В более сложном сценарии мы видим конечные точки, географически расположенные в Соединенных Штатах, и организация указана как американская компания. Например, в конфиденциальных данных, отправленных по адресу volces.com разрешить доступ к этому IP-адресу:
|
|
|
|
ping apmplus.volces.com
|
|
|
|
PING apmplus.volces.com.queniusz.com (8.45.52.229)
|
|
|
|
Как уже говорилось выше, Volcengine - это облачная платформа, разработанная компанией ByteDance. Однако географическое местоположение IP-адреса находится в Соединенных Штатах, а Организация указана как Level 3 Communications, Inc., которая является американским провайдером телекоммуникационных и интернет-услуг (приобретена Lumen).
|
|
|
|
Как снизить риски, связанные с приложением DeepSeek для iOS
|
|
|
|
В настоящее время трудно, если не невозможно, немедленно устранить многочисленные риски для безопасности, конфиденциальности и данных, которые существуют в DeepSeek iOS на сегодняшний день. Мы надеемся, что со временем проблема безопасности будет устранена и что некоторые методы, влияющие на конфиденциальность, могут быть устранены. Но компаниям, базирующимся в США и ЕС, а также государственным учреждениям трудно смягчить требования к хранению, анализу и обработке данных в Китайской Народной Республике. Конечно, каждая организация может принять такое решение самостоятельно, и мы надеемся, что описанные выше риски позволят получить представление о более безопасном приложении для iOS.
|
|
|
|
Тем временем компании и государственные учреждения могут предпринять неотложные шаги:
|
|
|
|
- Немедленно прекратите использование приложения DeepSeek для iOS до тех пор, пока проблемы с безопасностью и конфиденциальностью не будут устранены в достаточной степени
|
|
- Определите, не представляют ли проблемы со сбором данных, политикой конфиденциальности, условиями предоставления услуг и правовой юрисдикцией угрозу для вашей организации
|
|
- Рассмотрите возможность использования модели DeepSeek с открытым исходным кодом с помощью размещенных решений от таких компаний, как Microsoft, или с помощью самостоятельного размещения этой модели (например, с помощью Hugging Face)
|
|
- Изучите альтернативные приложения для искусственного интеллекта, которые предлагают модель DeepSeek с открытым исходным кодом, но с лучшей безопасностью, конфиденциальностью и управлением данными. Или рассмотрите другие предложения по ИИ, которые отвечают потребностям вашей организации
|
|
|
|
Технологии всегда развивались с ошеломляющей скоростью. Как мобильные приложения, так и предложения с использованием искусственного интеллекта не являются исключением. Учитывая уровень риска и частоту изменений, ключевой стратегией для устранения рисков является проведение анализа безопасности и конфиденциальности каждой версии мобильного приложения перед его развертыванием. Современные программные продукты позволяют это делать быстро, просто и по разумной цене, особенно в части снижения рисков. Обратитесь к NowSecure, чтобы выявить риски как в создаваемых вами мобильных приложениях, так и в приложениях сторонних производителей, таких как DeepSeek.
|
|
|
|
Источник
|
