|
Любой может подделать научное изображение
|
|
|
|
Фотография Земли, светящейся в глубоком космосе, с кратерированным горизонтом Луны на переднем плане, привлекла внимание многих в апреле 2026 года. Астронавты сделали этот снимок во время миссии НАСА «Артемида II», и, как и знаменитое изображение «Восхода Земли» с «Аполлона-8», фотография мгновенно показалась многим реальной и вдохновляющей. Но когда почти любой может за считанные секунды создать визуально похожее изображение по текстовой подсказке с помощью искусственного интеллекта, как люди определяют, какое изображение настоящее?
|
|
|
|
Распространение созданных с помощью ИИ научных изображений в общественном пространстве — это не просто проблема дезинформации. Как исследователь, изучающий визуальную научную коммуникацию и общественное доверие, я считаю, что это также способствует кризису доверия к науке в эпоху ИИ, и инструменты, на которые ученые долгое время полагались для установления визуальной достоверности, теряют свою эффективность.
|
|
|
|
Изображения, созданные с помощью ИИ, проникают в науку
|
|
|
|
Инструменты ИИ уже меняют способы создания, распространения и публикации научных визуальных материалов.
|
|
|
|
Исследователи используют их для создания иллюстраций, синтеза данных, редактирования лабораторных изображений и подготовки материалов для образования и популяризации науки.
|
|
|
|
|
|
|
Хотя ИИ может помочь ученым более творчески и эффективно доносить сложные идеи, эти же инструменты размывают границы между иллюстрацией, улучшением и подделкой.
|
|
|
|
В 2024 году две статьи были отозваны после публикации изображений, созданных с помощью ИИ, содержащих биологически невозможные структуры. В апреле 2026 года журнал New England Journal of Medicine отозвал статью после обнаружения факта манипулирования клиническим изображением с помощью ИИ. Это лишь те случаи, которые привлекли внимание общественности, и, вероятно, это только верхушка айсберга. Исследователи предупреждают, что визуальные материалы, созданные с помощью ИИ, представляют растущую угрозу в областях, которые в значительной степени зависят от визуальных доказательств, таких как материаловедение.
|
|
|
|
Академические издательства начинают внедрять инструменты обнаружения ИИ. Однако системы, предназначенные для обнаружения поддельных изображений, почти всегда будут отставать от систем, предназначенных для их создания. Многие детекторы могут идентифицировать только те шаблоны изображений, которые они были обучены распознавать. По мере появления новых моделей ИИ разработчикам приходится постоянно получать новые данные и переобучать детекторы, чтобы догнать их.
|
|
|
|
Наибольшую обеспокоенность вызывают реалистично выглядящие визуальные образы, которые тонко искажают научные детали, оставаясь при этом достаточно убедительными, чтобы пройти первоначальную проверку.
|
|
|
|
В течение десятилетий научные изображения пользовались авторитетом отчасти потому, что их было сложно создавать. Создание изображений с микроскопа, климатических графиков и космических фотографий требовало дорогостоящего оборудования, институциональных ресурсов и специализированных знаний. Большинство людей предполагали, что такие изображения представляют собой истинные наблюдения, потому что очень немногие могли их создать.
|
|
|
|
Исследования в области научной коммуникации, включая мои собственные, показывают, что люди оценивают научные визуальные материалы, используя несколько ментальных ярлыков. Выглядит ли изображение технически сложным? Создано ли оно авторитетным учреждением? Соответствует ли оно тому, во что я уже верю? Генеративный ИИ подрывает все три этих эвристики, или ментальных ярлыка.
|
|
|
|
Сегодня любой может создать отполированное, научно выглядящее изображение из текстового запроса. Изображения также отрываются от своего первоисточника при распространении в интернете. Когда визуальное качество и институциональная атрибуция становятся ненадежными критериями оценки достоверности научных изображений, люди склонны опираться на что-то другое: на свои собственные прежние убеждения.
|
|
|
|
В результате подлинные научные изображения, которые бросают вызов чьим-либо существующим убеждениям, теперь могут быть отвергнуты как созданные ИИ, в то время как сфабрикованные изображения, которые их подтверждают, легко принимаются в качестве доказательства. Таким образом, ИИ может усиливать мотивированное мышление — то есть склонность людей принимать то, с чем они уже согласны, и подвергать сомнению то, с чем они не согласны.
|
|
|
|
Этот сдвиг важен, потому что визуальные материалы долгое время служили доказательством научных утверждений. Неспециалистская аудитория полагается на изображения не только для того, чтобы увидеть, что открыли ученые, но и для того, чтобы установить эмоциональную связь и оценить достоверность представленной науки.
|
|
|
|
Если аудитория полностью перестанет доверять визуальным доказательствам, наука потеряет один из своих самых мощных инструментов публичной коммуникации.
|
|
|
|
Прозрачность, а не ограничение
|
|
|
|
Инструменты ИИ предлагают реальные преимущества для исследователей, доносящих свои работы до разнообразной аудитории. Задача состоит в том, чтобы использовать эти инструменты, не перенося при этом незаметно дефицит доверия к ИИ на научные исследования, которые призваны передавать изображения.
|
|
|
|
Один из практических путей решения проблемы — это чтобы исследователи относились к происхождению изображений — откуда взято изображение и как оно было создано — с той же серьезностью, с которой они уже относятся к происхождению данных.
|
|
|
|
Ученые обычно раскрывают информацию о финансировании, методологии исследований и конфликтах интересов. Подобные стандарты теперь могут потребоваться и для научных изображений. Использовался ли ИИ для создания или модификации этого изображения? Это прямое наблюдение, моделирование или иллюстрация? Что именно представляет собой изображение и как оно было проверено? Может ли оно быть воспроизведено другими исследователями?
|
|
|
|
Мы с коллегами обнаружили, что знакомство людей с ИИ существенно влияет на их оценку достоверности визуальных материалов, созданных с помощью ИИ. Те, кто знаком с инструментами ИИ, чаще рассматривали раскрытие информации об ИИ как признак прозрачности, а некоторые оценивали четко обозначенный контент, созданный с помощью ИИ, как более достоверный, чем контент без обозначений.
|
|
|
|
Прозрачность дает аудитории необходимый контекст для оценки увиденного, но она может не разрешить все споры о том, как создаются изображения. Ответственное использование научных изображений, созданных с помощью ИИ, потребует честности, соблюдения профессиональных норм и коллективной разработки научно обоснованных стандартов в различных областях.
|
|
|
|
Мы с коллегами обнаружили, что знакомство людей с ИИ существенно влияет на их оценку достоверности визуальных материалов, созданных с помощью ИИ. Почему подлинные изображения остаются такими же важными
|
|
|
|
Оригинальная фотография «Восхода Земли» миссии «Аполлон-8» 1968 года обладает значительным эмоциональным воздействием. То же самое можно сказать и об изображениях миссии «Артемида II» 2026 года.
|
|
|
|
Их значимость заключается не только в красоте. Это их прослеживаемая связь с научной реальностью. Глядя на эти фотографии планет, люди также понимают, что за этими изображениями стоят астронавты, физические камеры, задокументированные миссии и проверяемые наблюдения. В этом смысле подлинность — это задокументированная связь между изображением и миром.
|
|
|
|
В эпоху генеративного ИИ научные учреждения больше не могут предполагать, что аудитория автоматически будет доверять их визуальным материалам. Доверие теперь зависит от прозрачности, документации и четкой коммуникации о том, как создаются визуальные доказательства.
|
|
|
|
Без руководящих принципов и стандартов наука рискует войти в мир, где каждое изображение может быть подвергнуто сомнению, и ни одно изображение не обладает изначально заложенной достоверностью.
|
|
|
|
Источник
|
