|
Умные очки круглосуточно следят за пользователями
|
|
|
|
Реклама повсюду. Хоккеист Петер Форсберг примеряет черные очки. В вирусном ролике он разговаривает с очками, спрашивая, кто является величайшим хоккеистом Швеции всех времен.
|
|
|
|
Это не просто очки.
|
|
|
|
Это новые очки с искусственным интеллектом от владельца Facebook Meta.
|
|
|
|
Очки позиционируются как универсальный помощник, который помогает владельцу преуспеть на работе, запечатлеть красивые закаты, выступать в качестве путеводителя и переводить иностранные языки в режиме реального времени.
|
|
|
|
Настолько мощные, что они призваны конкурировать со смартфонами, в то время как пользователь сохраняет контроль над своей конфиденциальностью.
|
|
|
|
В реальности все было бы иначе.
|
|
|
|
На верхнем этаже отеля в Найроби, Кения, душно. Серое небо давит на окна из-за жары. Мужчина напротив нас нервничает. Если его работодатель узнает, что он здесь, он может потерять все.
|
|
|
|
Он один из тех, о существовании кого мало кто догадывается, – настоящий работник машинного отделения индустрии обработки данных. То, что он говорит, просто взрывоопасно.
|
|
|
|
|
|
|
“На некоторых видео можно увидеть, как кто-то идет в туалет или раздевается. Я не думаю, что они знают, потому что если бы они знали, то не записывались бы”.
|
|
|
|
В расследовании Svenska Dagbladet и Goteborgs-Posten люди, работающие в "умных очках" Meta, свидетельствуют о скрытом потоке конфиденциальных данных, которые поступают прямо в системы технологического гиганта.
|
|
|
|
Все начинается на другом конце света.
|
|
|
|
Сентябрь 2025 года в Менло-Парке, сердце Кремниевой долины. Марк Цукерберг, основатель Meta, компании, создающей Facebook, Instagram и WhatsApp, собирается представить инициативу, которая, как он надеется, определит будущее компании. На гигантских экранах зрители могут видеть, как он сидит за кулисами, склонившись над сценарием, и репетирует.
|
|
Они лежат перед ним на столе.
|
|
|
|
“Очки Meta Ray-Ban”.
|
|
|
|
Через некоторое время он встает и надевает очки.
|
|
|
|
Перспектива меняется – на экранах зрители видят мир его глазами. Цукерберг идет по коридорам к сцене. По пути его встречают радостными возгласами, ударами кулаков и кивком международной музыкальной звезды Дипло.
|
|
|
|
На сцене Цукерберг читает проповедь. Он объясняет, что его революционные очки должны стать своего рода универсальным помощником во всем - от трансляции в реальном времени до распознавания лиц.
|
|
|
|
В заключение он благодарит свою американскую команду. Но то, что показано в Менло-Парке, в равной степени является результатом работы совершенно другого типа, вдали от Кремниевой долины.
|
|
|
|
Компания, в которой они работают, называется Sama и является субподрядчиком Meta. Здесь, в столице Кении, тысячи людей обучают системы искусственного интеллекта распознавать и интерпретировать окружающий мир.
|
|
|
|
Их называют аннотаторами данных, и они являются "рабочими руками" революции в области искусственного интеллекта. На экранах они рисуют рамки вокруг цветочных горшков и дорожных знаков, повторяют контуры, регистрируют пиксели и дают названия объектам: автомобилям, лампам, людям. Каждое изображение должно быть описано, помечено и иметь гарантию качества.
|
|
|
|
Все это для того, чтобы сделать следующее поколение "умных очков" немного более интеллектуальным – немного более человечным.
|
|
|
|
Это неприятная правда для технологических гигантов: революция в области искусственного интеллекта в значительной степени основана на труде в странах с низким уровнем дохода. То, что мы называем “машинным обучением”, часто является результатом человеческих усилий.
|
|
|
|
В многомиллионном городе Найроби сотрудники SvD и GP встречаются с сотрудниками Sama в неприметном отеле, на безопасном расстоянии от Sama. Некоторые приходят прямо с ночной смены, другие готовятся к десятичасовой смене перед экранами.
|
|
|
|
Сотрудники подписали обширные соглашения о конфиденциальности – если они нарушат их, то могут потерять работу и вернуться к жизни без дохода, часто в трущобах. Поэтому мы не публикуем имена.
|
|
|
|
Рабочие в Кении говорят, что им неудобно ходить на работу. Они рассказывают нам о глубоко личных видеоклипах, которые, похоже, сняты прямо в западных домах, людьми, которые используют очки в повседневной жизни.
|
|
|
|
В некоторых описываются видеоматериалы, демонстрирующие посещение туалета, секс и другие интимные моменты.
|
|
|
|
Другой работник рассказывает о людях, выходящих из туалета.
|
|
|
|
“Возможно, кто-то прогуливался в очках или случайно надел их, а затем в туалете оказался партнер этого человека, или он просто вышел голым”, - говорит сотрудник.
|
|
|
|
Вам иногда кажется, что вы заглядываете в частную жизнь других людей?
|
|
|
|
“Когда вы смотрите эти видео, у вас возникает такое чувство. Но поскольку это работа, вы должны ее выполнять. Вы понимаете, что смотрите на чью-то личную жизнь, но в то же время от вас ожидают, что вы просто будете выполнять работу. Вы не должны задавать вопросов. Если вы начнете задавать вопросы, вы пропали”.
|
|
Видит банковские карточки и обнаженные тела
|
|
|
|
“Мы видим все – от жилых комнат до обнаженных тел. В базах данных Meta есть контент такого типа. Люди могут записывать себя неправильно и даже не знать, что они записывают. Они такие же реальные люди, как вы и я”.
|
|
|
|
Сотрудники компании описывают видеоролики, на которых по ошибке видны банковские карты людей, и людей, которые смотрят порно в очках. Ролики, которые могут спровоцировать “огромные скандалы”, если они попадут в сеть.
|
|
|
|
“Есть также сцены секса, снятые с помощью "умных очков" – кто-то надевает их, занимаясь сексом. Вот почему это так важно. В нашем офисе повсюду установлены камеры, и вам не разрешается приносить свои телефоны или любое другое устройство, которое может вести запись”, - говорит сотрудник.
|
|
|
|
Комментаторы данных также работают с транскрипциями, где они должны проверять, правильно ли помощник с искусственным интеллектом в очках Meta ответил на вопросы пользователей.
|
|
|
|
“Это могут быть любые темы. Мы видим чаты, в которых кто-то говорит о преступлениях или протестах. Это не просто приветствия, это могут быть и очень мрачные вещи”, - говорит один из работников.
|
|
|
|
Другой пересказывает текст, в котором мужчина описывает женщину, с которой он хотел бы заняться сексом:
|
|
|
|
“Он прокомментировал ее фигуру и сказал, что ему понравилась ее грудь”.
|
|
Запуск в Швеции
|
|
|
|
2025 год станет прорывным для компании Meta Ray-Ban, которая производится в сотрудничестве с производителем очков EssilorLuxottica. Если в 2023 и 2024 годах было продано два миллиона "умных" очков, то в 2024 году продажи увеличились втрое и достигли семи миллионов единиц.
|
|
|
|
В Швеции Synsam является одним из крупнейших розничных продавцов, как и сеть магазинов Synoptik. Некоторые независимые магазины оптики также продают очки.
|
|
|
|
В течение осени 2025 года мы посетили десять розничных магазинов в Стокгольме и Гетеборге, чтобы расспросить сотрудников отдела продаж о том, как обрабатываются данные с очков Meta. Несколько продавцов дали нам обнадеживающие ответы. Нам сказали, что мы сами можем выбирать, какие именно данные будут переданы Meta.
|
|
|
|
“Мы ничем не делимся с ними (метаданными). Меня это тоже очень беспокоило. Получат ли они доступ к моим данным, это немного пугает, но у вас есть полный контроль”, - говорит сотрудник магазина Synsam.
|
|
|
|
Другие сомневаются больше.
|
|
|
|
“Если быть до конца честным, я не знаю, куда поступают данные и поступают ли они вообще”, - говорит продавец в независимом магазине оптики. Другой продавец отмечает, что покупатель всегда может отказаться делиться своими данными:
|
|
|
|
“Нет, все в полном порядке – все остается локально в приложении”.
|
|
|
|
Мы покупаем наши собственные очки во флагманском магазине Synsam в Гетеборге.
|
|
|
|
В отделе новостей Goteborgs-Posten мы начинаем их установку. Очки должны быть подключены к приложению под названием Meta AI. Только после нескольких согласований в приложении можно приступить к работе с функцией искусственного интеллекта. Один из шагов касается того, хотим ли мы поделиться дополнительными данными с Meta, чтобы помочь улучшить их продукты. Мы выбираем ”нет".
|
|
|
|
Функции искусственного интеллекта активируются голосовой командой “Привет, Мета”. Через десять минут после вскрытия упаковки мы начинаем задавать вопросы. Очки отвечают немедленно, на английском языке.
|
|
|
|
Вместе с разработчиком системы в Svenska Dagbladet мы пытаемся выяснить, верно ли то, что сказал продавец, что мы можем не передавать наши данные Meta. Мы стараемся использовать очки без подключения к Интернету.
|
|
Собственные слова Meta
|
|
|
|
Но это не позволяет получить помощь в интерпретации того, что мы видим. Очки побуждают нас включить подключение. Когда мы затем анализируем сетевой трафик из приложения, мы видим, что телефон часто подключается к метасерверам в Лулео, Швеции и Дании.
|
|
|
|
Чтобы отвечать на вопросы и интерпретировать то, что видит камера, очки требуют, чтобы данные обрабатывались с помощью инфраструктуры Meta – невозможно взаимодействовать с искусственным интеллектом исключительно локально, по телефону.
|
|
|
|
То, что продавцы говорят о том, что в дальнейшем они ничем не делятся, не соответствует действительности.
|
|
|
|
Мы связываемся с Synsam и Synoptik для проведения собеседования о том, какое обучение проходят сотрудники отдела продаж и почему ответы, которые они дают, настолько отличаются друг от друга. Synsam ответила в письменном виде, что ее роль заключается в информировании клиентов о применимых условиях и проведении внутреннего обучения, но ответственность за соблюдение шведского законодательства и условий Meta в конечном счете лежит на пользователе. Компания Synoptik ответила в аналогичных выражениях, заявив, что ее сотрудники обучены этике и подчеркивают ответственность пользователя.
|
|
|
|
К очкам, которые мы купили, также прилагается инструкция с QR-кодом, который ведет к политике конфиденциальности Meta в отношении носимых продуктов. Это, в свою очередь, ссылки на другие страницы, такие как Условия использования сервисов искусственного интеллекта Meta.
|
|
|
|
На первый взгляд кажется, что мы обладаем значительным контролем над нашими данными. В нем говорится, что голосовые записи могут быть сохранены и использованы для улучшения или обучения других мета-продуктов только при активном согласии пользователя.
|
|
|
|
Но для того, чтобы ИИ-ассистент мог функционировать, голос, текст, изображения, а иногда и видео должны быть обработаны и впоследствии могут быть переданы в общий доступ. Эта обработка данных выполняется автоматически и не может быть отключена.
|
|
Человек, стоящий за ИИ
|
|
|
|
Далее мы читаем в Условиях использования ИИ Meta. В условиях указано, что “в некоторых случаях Meta проверяет ваше взаимодействие с AIs, включая содержание ваших разговоров с AIs или сообщений, отправляемых в AIs, и эта проверка может быть автоматической или ручной (человеком)”.
|
|
|
|
В нем также говорится, что AIs может хранить и использовать предоставленную им информацию, и что пользователь не должен делиться информацией, “которую вы не хотите, чтобы AIs использовала и хранила, например, информацией по конфиденциальным темам”.
|
|
|
|
У пользователя нет выбора; участие обязательно.
|
|
|
|
Не уточняется, какой объем данных может быть проанализирован или как долго они могут храниться. Также не уточняется, кому предоставляется доступ к данным.
|
|
|
|
Эксперты по обработке данных, с которыми мы связываемся в Швеции и за рубежом, задаются вопросом, насколько пользователи на самом деле осведомлены о том, что их данные могут быть использованы для обучения искусственного интеллекта Meta.
|
|
|
|
Эксперты указывают на нечеткую границу между тем, что передается добровольно, и тем, что собирается автоматически, – границу, которую бывает трудно обнаружить.
|
|
Неясно, что записывает камера
|
|
|
|
Когда Meta предлагает услуги на территории ЕС, компания подпадает под действие Общего регламента по защите данных (GDPR), который требует прозрачности в отношении того, как обрабатываются персональные данные и где происходит эта обработка.
|
|
|
|
Клеанти Сардели (Kleanthi Sardeli) - юрист по защите данных в None Of Your Business (NOYB), некоммерческой организации в Вене, которая возбудила несколько судебных дел против Meta. В настоящее время они рассматривают новые умные очки.
|
|
|
|
По ее словам, существует очевидная проблема прозрачности: пользователи могут не осознавать, что камера ведет запись, когда они начинают разговаривать с ИИ-ассистентом.
|
|
“Если это произойдет в Европе, то не будет ни прозрачности, ни правовой основы для обработки”, - говорит она. Она считает, что при использовании данных для обучения искусственного интеллекта должно требоваться явное согласие.
|
|
|
|
“Как только материал попадает в модели, пользователь на практике теряет контроль над тем, как он используется”, - говорит Сардели.
|
|
|
|
Петтер Флинк - специалист по информационным технологиям и безопасности в IMY, шведском ведомстве по защите конфиденциальности. Это ведомство призвано защищать личные данные и конфиденциальность шведов.
|
|
|
|
По его словам, лишь немногие люди по-настоящему задумываются о том, на что они соглашаются, когда начинают пользоваться такими сервисами, как очки Meta.
|
|
|
|
“Пользователь на самом деле понятия не имеет, что происходит за кулисами”, - говорит Петтер Флинк.
|
|
|
|
В то же время технология стала более доступной и привлекательной благодаря новым функциям, которые быстро охватывают широкую аудиторию.
|
|
|
|
Он подчеркивает, что данные, которые собирает Meta, более ценны, чем сами очки. Чем больше деталей можно извлечь из повседневной жизни пользователя, тем точнее можно настроить таргетинг рекламы и услуг на этого человека.
|
|
|
|
"Я думаю, мало кто захотел бы делиться подробностями своей повседневной жизни в такой степени. Но когда это преподносится в веселой и привлекательной форме, становится труднее увидеть риски”, - говорит Петтер Флинк.
|
|
|
|
Шведское управление по защите частной жизни не проводило проверку Meta glasses.
|
|
|
|
“Поэтому мы не можем комментировать, куда попадают данные”, - говорит Петтер Флинк.
|
|
|
|
Согласно нашим источникам, конфиденциальные данные не предназначены для обучения моделей искусственного интеллекта.
|
|
|
|
Несмотря на это, это все еще может произойти.
|
|
|
|
“Как только устройство попадает в руки пользователей, они делают с ним все, что хотят”, - говорит один из бывших сотрудников Meta.
|
|
|
|
По словам бывших сотрудников Meta, лица, которые появляются в аннотациях, автоматически размываются.
|
|
|
|
Однако специалисты по обработке данных в Кении сообщили SvD и GP, что анонимизация не всегда работает должным образом. Лица, которые должны быть закрыты, иногда видны. Мы спросили одного из бывших сотрудников Meta, как это возможно.
|
|
|
|
“Алгоритмы иногда дают сбои. Особенно в сложных условиях освещения становятся видны некоторые лица и тела”.
|
|
Спрашиваем у Meta о частных клипах
|
|
|
|
Откуда берутся изображения? Могут ли частные видеоролики из Швеции попасть на экраны в Кении? Те, кто появляется на изображениях, дали ли они согласие на то, чтобы их показывали в таком виде?
|
|
|
|
Мы неоднократно обращались к Meta для проведения открытого интервью о том, как компания информирует пользователей об очках, какие фильтры используются для предотвращения попадания личных материалов к авторам комментариев, как проводится аудит цепочки субподрядчиков и почему появляется контент, показывающий исключительно частные ситуации.
|
|
|
|
Мы также интересуемся, как долго хранятся голосовые записи и видеоклипы, как на практике работает возможность подачи возражений потребителями и могут ли видеоклипы исходить от шведских пользователей.
|
|
|
|
Через два месяца мы получили электронное письмо от представителя Meta в Лондоне Джойс Омоуп. В письме нет прямого ответа на наши вопросы, но объясняется, как данные передаются из очков в мобильное приложение пользователя.
|
|
|
|
Вместо этого Meta ссылается на условия использования искусственного интеллекта и политику конфиденциальности. В них не указывается, куда попадают данные, но указывается, что они могут быть проверены человеком.
|
|
|
|
Мы попросили Meta подробнее рассказать о том, как предоставление конфиденциальных материалов субподрядчикам, таким как Sama в Кении, может быть согласовано с политикой конфиденциальности. Мы задали те же вопросы Sama. Ответа не последовало.
|
|
|
|
Мы также не получили никаких дополнительных ответов от Meta и вынуждены довольствоваться тем, что написала пресс-секретарь Meta Джойс Омоуп (Joyce Omope):
|
|
|
|
“Когда используется live AI, мы обрабатываем эти медиа в соответствии с Условиями предоставления услуг Meta AI и Политикой конфиденциальности”.
|
|
|
|
Представитель европейской компании Meta, пожелавший остаться неназванным, говорит, что не имеет значения, где обрабатываются данные, если правила защиты данных аналогичны европейским.
|
|
|
|
“Многие считают, что для обеспечения защиты данные должны храниться на территории ЕС. Но в соответствии с GDPR не имеет значения, где расположен сервер – главное, чтобы страна соответствовала требованиям ЕС. Если это не так, данные могут быть туда не отправлены”.
|
|
|
|
Они продолжают:
|
|
|
|
“Технически у нас есть центры обработки данных в Швеции, Дании и Ирландии, но их физическое местоположение на самом деле менее важно. Юридическая ответственность лежит на Meta Ireland, которая является европейской организацией. Где на самом деле обрабатываются данные – в Европе или в США – не меняет нормативную базу”.
|
|
|
|
В настоящее время ЕС не принял решения о признании Кении страной, обеспечивающей надлежащий уровень защиты, но ЕС и Кения начали диалог по этому вопросу в мае 2024 года. Ожидается, что для заключения соглашения потребуется некоторое время.
|
|
См. политику конфиденциальности
|
|
|
|
Сами Meta пишут в своей политике конфиденциальности, что они должны передавать, хранить и обрабатывать пользовательские данные по всему миру, поскольку “Meta - это компания, которая работает по всему миру”, и что они обмениваются информацией как внутри компании между офисами и центрами обработки данных, так и за ее пределами с партнерами, третьими лицами и поставщиками услуг. Meta прямо пишет, что это относится к взаимодействиям людей с искусственным интеллектом в Meta, например, к контенту и сообщениям.
|
|
|
|
Петра Вируп, юрист шведского управления по защите частной жизни IMY, говорит, что если Meta является контролером данных в соответствии с GDPR, то они несут ответственность за персональные данные шведов, собранные при использовании очков.
|
|
|
|
“Для того чтобы ему было разрешено использовать поставщика услуг в третьей стране (за пределами ЕС), требуется наличие надежных соглашений с инструкциями. Также необходимо обеспечить юридическую поддержку передачи данных, чтобы передаваемые данные получали постоянную надежную и эквивалентную защиту при их обработке в третьей стране. Таким образом, защита не должна ослабевать при их обработке субподрядчиками”, - говорит Петра Вируп.
|
|
|
|
С одной стороны, очки позиционируются как повседневный помощник – голос в кадре, который рассказывает вам о том, что вы видите. С другой стороны, люди в Найроби комментируют самые интимные моменты, которые фиксирует камера: офисы открытой планировки, гостиные, спальни, ванные комнаты.
|
|
|
|
Один из комментаторов резюмирует это так::
|
|
|
|
“Вы думаете, что если бы они знали о масштабах сбора данных, никто не осмелился бы использовать очки”.
|
|
|
|
Источник
|