|
ИИ Google научился подделывать любые фото
|
|
|
|
Взрыв со стороны старого кирпичного здания. Разбитый велосипед на городском перекрестке. Таракан в коробке из-под еды на вынос. На создание каждого из этих изображений с помощью инструмента Reimagine в редакторе Magic для Pixel 9 ушло менее 10 секунд. Они четкие. Они полностью цветные. Они отличаются высокой точностью воспроизведения. Нет ни подозрительного размытия фона, ни предательского указательного пальца. Эти фотографии необычайно убедительны, и все они чертовски фальшивые.
|
|
|
|
Любой, кто купит Pixel 9 — последнюю модель флагманского телефона Google, поступающую в продажу с этой недели, — получит доступ к самому простому и понятному пользовательскому интерфейсу для первоклассных приложений, встроенному прямо в их мобильное устройство. Это почти наверняка станет нормой, поскольку аналогичные функции уже доступны на конкурирующих устройствах и появятся на других в ближайшем будущем. Когда смартфон “просто работает”, это, как правило, хорошо; в данном случае, в этом и заключается основная проблема.
|
|
|
|
Фотография использовалась для обмана с тех пор, как она существовала. (Вспомним фотографии в викторианском духе, печально известную фотографию Лох-Несского чудовища или сталинские фотоочистки соратников, подвергшихся чисткам в IRL). Но было бы неискренним утверждать, что фотографии никогда не считались надежным доказательством. Все, кто читает эту статью в 2024 году, выросли в эпоху, когда фотография по умолчанию отражала истину. Постановочная сцена с киноэффектами, цифровая обработка фотографий или, в последнее время, глубокая подделка — все это было потенциальным обманом, который следовало принимать во внимание, но он был исключительным из числа возможных. Потребовались специальные знания и специальные инструменты, чтобы подорвать интуитивное доверие к фотографии. Подделка была исключением, а не правилом.
|
|
|
Если я скажу "площадь Тяньаньмэнь", вы, скорее всего, представите себе ту же фотографию, что и я. Это также относится к "Абу Грейб" или "девушке из напалма". Эти изображения определили войны и революции; они заключили в себе истину в такой степени, что ее невозможно полностью выразить. Не было смысла объяснять, почему эти фотографии так важны, почему они так важны, почему мы придаем им такое большое значение. Наше доверие к фотографии было настолько глубоким, что, когда мы обсуждали достоверность изображений, гораздо важнее было подчеркнуть тот факт, что иногда фотографии могут быть поддельными.
|
|
|
|
Все это вот—вот изменится - по умолчанию будет принято считать, что фотография подделана, потому что создание реалистичных и правдоподобных поддельных фотографий теперь стало делом тривиальным. Мы не готовы к тому, что произойдет потом.
|
|
|
|
Сегодня никто на Земле никогда не жил в мире, где фотографии не были бы основой общественного согласия — с тех пор, как кто-либо из нас здесь появился, фотографии доказывали, что что-то произошло. Рассмотрите все способы, с помощью которых предполагаемая достоверность фотографии ранее подтверждала правдивость ваших впечатлений. Вмятина на крыле взятого напрокат автомобиля. Протечка в потолке. Прибытие посылки. Настоящий таракан, не созданный искусственным интеллектом, у вас на вынос. Когда лесные пожары охватывают ваш жилой район, как вы сообщаете друзьям и знакомым о густоте дыма на улице?
|
|
|
|
И до сих пор бремя доказывания своих утверждений в основном ложилось на тех, кто отрицал правдивость фотографии. Жители плоской земли не соответствуют общественному консенсусу не потому, что они не разбираются в астрофизике - в конце концов, многие ли из нас на самом деле разбираются в астрофизике? — но потому, что им приходится придумывать все более изощренные объяснения того, почему некоторые фотографии и видеозаписи не соответствуют действительности. Они должны изобрести масштабный государственный заговор, чтобы объяснить постоянное появление спутниковых фотографий, на которых запечатлена кривизна Земли. Они должны создать звуковую сцену для высадки на Луну в 1969 году.
|
|
|
|
Мы считаем само собой разумеющимся, что бремя доказывания лежит на них. В эпоху Pixel 9, возможно, было бы лучше начать знакомиться с нашей астрофизикой.
|
|
|
|
По большей части среднестатистический образ, созданный с помощью этих инструментов искусственного интеллекта, сам по себе будет довольно безобидным — лишнее дерево на заднем плане, аллигатор в пиццерии, нелепый костюм, надетый на кошку. В целом, "всемирный потоп" полностью меняет наше отношение к фотографии, и это само по себе имеет огромные последствия. Вспомним, например, что за последнее десятилетие в Соединенных Штатах произошли необычайные социальные потрясения, вызванные грубыми видеозаписями жестокости полиции. Там, где власти скрывали реальность, эти видеозаписи рассказывали правду.
|
|
|
|
Настойчивые крики “Фейковые новости!”, раздававшиеся в кругах сторонников Трампа, предвещали начало этой эры абсолютного дерьма, в которой влияние правды будет ослаблено пожарным шлангом лжи. Следующий "Абу Грейб" будет похоронен в море информации о военных преступлениях, сгенерированной искусственным интеллектом. Следующий Джордж Флойд останется незамеченным.
|
|
|
|
Вы уже можете видеть очертания того, что должно произойти. В ходе судебного процесса над Кайлом Риттенхаусом защита утверждала, что технология Apple pinch-to-zoom манипулирует фотографиями, и успешно убедила судью возложить бремя доказывания на обвинение, чтобы показать, что увеличенные кадры с iPhone не были обработаны искусственным интеллектом. Совсем недавно Дональд Трамп ложно заявил, что фотография многолюдного митинга Камалы Харрис была создана с помощью искусственного интеллекта - заявление, которое стало возможным сделать только потому, что люди смогли в это поверить.
|
|
|
|
Еще до появления искусственного интеллекта те из нас, кто работал в средствах массовой информации, занимали оборонительную позицию, тщательно изучая детали и происхождение каждого изображения, проверяя, нет ли вводящего в заблуждение контекста или манипуляций с фотографиями. В конце концов, каждое крупное новостное событие сопровождается потоком дезинформации. Но грядущий сдвиг парадигмы подразумевает нечто гораздо более фундаментальное, чем постоянное чувство подозрительности, которое иногда называют цифровой грамотностью.
|
|
|
|
Google прекрасно понимает, что она делает с фотографией как с институтом — в интервью Wired менеджер по продуктам Pixel Camera описал инструмент редактирования как “помогающий вам создать момент, который вам запомнился, который соответствует вашей памяти и окружающему миру". более широкий контекст, но, возможно, не соответствует действительности на определенную миллисекунду.” Фотография в этом мире перестает быть дополнением к подверженным ошибкам человеческим воспоминаниям, а становится их отражением. И поскольку фотографии становятся не более чем проявленными галлюцинациями, самое глупое дерьмо выливается в судебную битву за репутацию свидетелей и наличие подтверждающих улик.
|
|
|
|
Эта эрозия общественного консенсуса началась еще до появления Pixel 9, и она не будет продолжена только с появлением Pixel 9. Тем не менее, новые возможности искусственного интеллекта в телефоне заслуживают внимания не только потому, что барьер для входа очень низок, но и потому, что меры предосторожности, с которыми мы столкнулись, были удивительно слабыми. Предлагаемый отраслью стандарт создания водяных знаков на изображениях с искусственным интеллектом увязает в обычных стандартах, а собственной хваленой системы создания водяных знаков с искусственным интеллектом от Google не было и в помине, когда The Verge опробовал волшебный редактор Pixel 9. К фотографиям, измененным с помощью инструмента Reimagine, просто добавляется строка сменных метаданных. (Предполагалось, что проблема хрупкости такого рода метаданных будет решена с помощью изобретения Google теоретически неустранимого водяного знака SynthID). Google сообщил нам, что выходные данные Pixel Studio — чистого генератора подсказок, который ближе к DALL-E, — будут помечены водяным знаком SynthID; по иронии судьбы, мы обнаружили, что возможности инструмента Reimagine от Magic Editor, который изменяет существующие фотографии, вызывают гораздо больше беспокойства.
|
|
|
|
Google утверждает, что Pixel 9 не будет неограниченной фабрикой по производству дерьма, но у него мало существенных гарантий. “Мы разрабатываем наши инструменты генеративного ИИ с учетом намерений пользователей, и это означает, что они могут создавать контент, который может быть оскорбительным, если пользователь проинструктирует их об этом”, - сказал Алекс Морикони, менеджер по коммуникациям Google, в электронном письме The Verge. “Тем не менее, это ничего не значит. У нас есть четкие правила и условия предоставления услуг в отношении того, какой контент мы разрешаем, а какой - нет, и мы создаем ограждения для предотвращения злоупотреблений. Иногда некоторые подсказки могут поставить под сомнение эффективность этих инструментов, и мы по-прежнему стремимся постоянно совершенствовать имеющиеся у нас средства защиты”.
|
|
|
|
Правила соответствуют ожидаемым — например, вы не можете использовать сервисы Google для содействия совершению преступлений или подстрекательства к насилию. При некоторых попытках получить приглашение выдавалось сообщение об ошибке общего характера: “Magic Editor не может завершить редактирование. Попробуйте ввести что-нибудь еще”. (Однако в этой истории вы можете увидеть несколько тревожных подсказок, которые сработали.) Но, по сути, стандартная модерация контента не спасет фотографию от того, чтобы она перестала быть правдивым сигналом.
|
|
|
|
Мы недолго жили в эпоху, когда фотография была кратчайшим путем к реальности, к познанию вещей, к тому, чтобы иметь неопровержимые доказательства. Это был чрезвычайно полезный инструмент для навигации по окружающему миру. Сейчас мы с головой погружаемся в будущее, в котором реальность просто менее познаваема. "Утраченная Александрийская библиотека" могла бы уместиться на карте памяти microSD в моем Nintendo Switch, и все же передовым достижением технологии является портативный телефон, который извергает ложь в качестве забавной дополнительной функции.
|
|
|
|
Источник
|
