|
ИИ искажает данные археологии
|
|
|
|
Если ввести в Google Images запрос «культурное наследие Австралии», то в числе первых результатов вы увидите фотографию гигантских резных каменных голов, возвышающихся над красной пустыней. Они выглядят древними и настоящими. Но это изображение создано с помощью генеративного искусственного интеллекта (GenAI) и никогда не существовало в реальности. Оно распространяется в интернете как подлинный исторический артефакт из Австралии.
|
|
|
|
Хотя GenAI — технология, лежащая в основе чат-ботов и генераторов изображений, — может расширить доступ к знаниям, она также способна популяризировать ложные исторические факты и вырывать знания коренных народов из контекста.
|
|
|
|
Это может подорвать доверие как к научным экспертам, так и к авторитету коренных народов.
|
|
|
|
Мы, исследователи, все больше обеспокоены тем, что эти системы без согласия правообладателей копируют и повторно используют культурную и интеллектуальную собственность коренных народов (КИСКН).
|
|
|
|
Как же бороться с дезинформацией и при этом сохранять открытый доступ к подлинным научным знаниям? И от чего мы отказываемся, когда открыто делимся этими знаниями, а ИИ присваивает их себе?
|
|
|
|
|
|
|
Что такое псевдонаука?
|
|
|
|
Археология давно привлекает внимание маргинальных теорий и псевдонаучных утверждений.
|
|
|
|
Псевдонаука выдает себя за науку, но при этом не использует строгие методы и надежные доказательства, на которых строится научная деятельность.
|
|
|
|
Настоящая наука развивается, исправляя свои ошибки. По мере накопления фактов слабые идеи отбрасываются, а опровергнутые теории уходят на второй план.
|
|
|
|
Археология тоже порождает маргинальные теории всякий раз, когда новые открытия опровергают старые интерпретации. Но некоторые идеи упорно сохраняются.
|
|
|
|
Так называемые «затерянные континенты» Му и Лемурия не имеют под собой никаких научных оснований, но миф о таинственных высокоразвитых цивилизациях, ушедших под воду в Тихом океане, продолжает распространяться и по сей день.
|
|
|
|
Однако псевдонаука редко бывает безобидной чепухой. В худшем своем проявлении она используется для определения того, кого можно считать полноценным человеком.
|
|
|
|
Такие доктрины, как евгеника и социальный дарвинизм, претендовали на научную легитимность, оправдывая при этом систематическую дегуманизацию. Многие современные псевдоархеологические теории опираются на те же интеллектуальные традиции.
|
|
Почему маргинальные идеи распространяются и почему это важно
|
|
|
|
Маргинальные теории обещают нам скрытые истины, тайны и откровения, в то время как тщательные археологические исследования, как правило, требуют больше времени и усилий.
|
|
|
|
Истории о затерянных цивилизациях или древних пришельцах обычно оказываются более привлекательными для развлечения, чем интерпретации, основанные на фактах.
|
|
|
|
Последствия могут быть весьма серьезными.
|
|
|
|
Маргинальные теории подрывают доверие общества к науке и экспертным знаниям, о чем свидетельствует непрекращающееся движение за теорию плоской Земли.
|
|
|
|
Псевдоархеология уже давно принижает значение истории коренных народов. Некоторые из самых удивительных памятников, когда-либо воздвигнутых человеком, приписываются кому угодно, но только не коренным народам, которые их создали.
|
|
|
|
Моаи на Рапа-Нуи — огромные каменные изваяния, вырезанные и установленные на своих местах полинезийскими островитянами, — в книгах-бестселлерах, а теперь и в «исторических» материалах, сгенерированных искусственным интеллектом, приписываются древним пришельцам и исчезнувшим цивилизациям.
|
|
|
|
Нан-Мадол, город из базальтовых блоков, возведенный на искусственных островках в Микронезии, приписывается исчезнувшей «сверхрасе», а не народу сауделер, который его построил.
|
|
|
|
В Кимберли, Западная Австралия, некоторые считают, что изысканные наскальные рисунки Гвион-Гвион — дело рук таинственного инопланетного народа, а не предков-аборигенов, чьи потомки до сих пор ухаживают за ними. То же самое можно сказать и о петроглифах Новой Каледонии.
|
|
|
|
Каждая из этих ложных теорий отрывает современные общины от их исконного наследия и подпитывает расистские представления о возможностях коренных народов.
|
|
|
|
Большинство систем генеративного ИИ обучаются на данных из открытого интернета, где процветают дезинформация и маргинальные теории.
|
|
|
|
В отличие от исследователей, эти системы не взвешивают доказательства и не проверяют утверждения. Они предсказывают следующее правдоподобное слово на основе шаблонов в своих обучающих данных, что означает, что они могут с полной уверенностью воспроизвести что-то неверное.
|
|
|
|
Точность - это только половина проблемы.
|
|
|
|
GenAI работает масштабно, сводя огромные объемы информации к статистическим моделям. Знания коренных народов работают в обратном направлении. Они локальны, основаны на конкретных местах и привязаны к конкретной стране и сообществам.
|
|
|
|
Эти качества придают знаниям коренных народов силу, но крупномасштабные системы искусственного интеллекта сводят их на нет.
|
|
|
|
Модель может использовать знания коренных народов в качестве учебных данных без согласия, без подтверждения, без компенсации и без контроля сообщества над тем, как они будут использоваться в дальнейшем.
|
|
|
|
Наше недавнее исследование показало, что ИИ часто может отличить научный консенсус и консенсус коренных народов от избитых маргинальных рассказов. Но эта способность основывается, в первую очередь, на обучающих данных, собранных или воспроизведенных без разрешения сообщества.
|
|
Противодействие
|
|
|
|
Борьба с дезинформацией означает привлечение общественности, но если серьезные исследования недоступны, пробелы заполняются второстепенными историями.
|
|
|
|
Эти рассказы затем используются в качестве базы данных для обучения ИИ следующего поколения.
|
|
|
|
Знания коренных народов выходят далеко за рамки историй и культурного самовыражения и включают в себя экологические записи, знания о ландшафтах и данные, накопленные за многие поколения взаимоотношений со страной.
|
|
|
|
Знания коренных народов — это не инертная и не бесхозная информация, которую можно просто взять и использовать. Они взаимосвязаны, привязаны к конкретной местности и регулируются протоколами.
|
|
|
|
Многие исследователи в Австралии и странах Тихоокеанского региона десятилетиями выстраивали доверительные отношения с общинами аборигенов, жителей островов Торресова пролива и жителей островов Тихого океана. Сейчас эти общины сами используют искусственный интеллект для возрождения языков и проведения исследований, требующих доступа к культурным архивам.
|
|
|
|
Когда общины дают согласие на публикацию, они сами решают, на каких условиях будут обнародовать свои знания. Но они не давали согласия на то, чтобы машина вырывала их из контекста и искажала.
|
|
|
|
Исследовательское сообщество может предпринять ряд практических шагов.
|
|
|
|
Научные журналы и репозитории должны требовать подтверждения согласия общины перед публикацией данных о коренных народах и проверять существующие коллекции на соответствие критериям признания интеллектуальной собственности коренных народов. Университеты и финансирующие организации должны учитывать эти критерии при планировании исследований, проведении этической экспертизы и рецензировании.
|
|
|
|
Прежде всего, общины коренных народов должны иметь право решать, как интерпретировать и повторно использовать их знания. Это подразумевает настоящее партнёрство, а не формальные консультации.
|
|
Опыт и понимание
|
|
|
|
Несмотря на стремительное развитие, генеративный искусственный интеллект не заменил экспертные знания.
|
|
|
|
Старейшину, традиционного владельца земли, хранителя знаний или учёного можно усомниться в словах, оспорить их и призвать к ответу.
|
|
|
|
Их знания основаны на жизненном опыте, длительных отношениях и чувстве ответственности. Чат-бот не обладает ни одним из этих качеств.
|
|
|
|
Настоящие эксперты, в том числе сама Страна, являются частью жизни и системы знаний, из которых на самом деле рождается понимание.
|
|
|
|
Источник
|
