|
Устранение рисков, связанных с ИИ в научных исследованиях
|
|
|
|
Искусственный интеллект (ИИ) широко известен своим потенциалом повышения производительности в научных исследованиях. Но с этим обещанием связаны риски, которые могут ограничить способность ученых лучше понимать мир, говорится в новой статье, соавтором которой является антрополог из Йельского университета. Авторы утверждают, что некоторые будущие подходы к ИИ могут ограничить вопросы, которые задают исследователи, эксперименты, которые они проводят, и перспективы, которые связаны с научными данными и теориями. В совокупности эти факторы могут сделать людей уязвимыми для "иллюзий понимания", в которых они верят, что понимают мир лучше, чем на самом деле. Статья The Perspective опубликована в Nature. "Существует риск того, что ученые будут использовать искусственный интеллект, чтобы производить больше, понимая при этом меньше", - сказала соавтор Лиза Мессери, антрополог с факультета искусств и наук Йельского университета. "Мы не утверждаем, что ученые не должны использовать инструменты искусственного интеллекта, но мы выступаем за разговор о том, как ученые будут их использовать, и предполагаем, что мы не должны автоматически предполагать, что все виды использования технологии или повсеместное ее использование принесет пользу науке".
|
|
|
|
Статья, написанная в соавторстве с принстонским ученым-когнитивистом М. Дж. Крокетт, устанавливает рамки для обсуждения рисков, связанных с использованием инструментов искусственного интеллекта на протяжении всего процесса научных исследований, от разработки исследования до экспертной оценки. "Мы надеемся, что эта статья предлагает словарь для обсуждения потенциальных эпистемологических рисков ИИ", - сказал Мессери. Крокетт добавил: "Чтобы понять эти риски, ученые могут извлечь пользу из работы в области гуманитарных и качественных социальных наук". Мессери и Крокетт классифицировали предлагаемые концепции ИИ, охватывающие научный процесс, которые в настоящее время вызывают ажиотаж среди исследователей, по четырем архетипам:
|
|
|
- Они утверждают, что при проектировании исследований инструменты "ИИ как оракул" представляются способными объективно и эффективно осуществлять поиск, оценку и обобщение массивной научной литературы, помогая исследователям формулировать вопросы на стадии разработки их проекта.
|
|
- Есть надежда, что при сборе данных приложения "Искусственный интеллект как суррогат" позволят ученым генерировать точные резервные точки данных, в том числе в качестве замены участников исследования на людях, когда в противном случае получить данные слишком сложно или дорого.
|
|
- В анализе данных инструменты "ИИ как квант" стремятся превзойти способность человеческого интеллекта анализировать обширные и сложные наборы данных.
|
|
- А приложения "ИИ как арбитр" нацелены на объективную оценку научных исследований на предмет их значимости и воспроизводимости, тем самым заменяя людей в процессе экспертной оценки.
|
|
|
|
Авторы предостерегают от отношения к приложениям искусственного интеллекта из этих четырех архетипов как к надежным партнерам, а не просто инструментам в производстве научных знаний. По их словам, это может сделать ученых восприимчивыми к иллюзиям понимания, которые могут исказить их перспективы и убедить их в том, что они знают больше, чем на самом деле. Мессери и Крокетт утверждают, что эффективность и проницательность, которые обещают инструменты искусственного интеллекта, могут ослабить производство научных знаний за счет создания "монокультур познания", в которых исследователи отдают приоритет вопросам и методам, наилучшим образом подходящим для ИИ, перед другими способами исследования. Научная среда такого рода оставляет исследователей уязвимыми для того, что они называют "иллюзиями исследовательского размаха", когда ученые ошибочно полагают, что они исследуют все проверяемые гипотезы, в то время как они исследуют только более узкий круг вопросов, которые могут быть проверены с помощью искусственного интеллекта.
|
|
|
|
Например, "суррогатные" инструменты искусственного интеллекта, которые, по-видимому, точно имитируют ответы людей на опросы, могут сделать эксперименты, требующие измерения физического поведения или взаимодействия лицом к лицу, все более непопулярными, поскольку их проведение медленнее и дороже, сказал Крокетт. Авторы также описывают возможность того, что инструменты искусственного интеллекта станут рассматриваться как более объективные и надежные, чем ученые-люди, создавая "монокультуру знающих", в которой к системам искусственного интеллекта относятся как к единственному, авторитетному и объективному знающему вместо разнообразного научного сообщества ученых с различным опытом, подготовкой и экспертными знаниями. Монокультура, по их словам, порождает "иллюзии объективности", когда ученые ложно полагают, что инструменты искусственного интеллекта не имеют перспективы или представляют все перспективы, когда на самом деле они представляют точку зрения ученых-компьютерщиков, которые их разработали и обучили.
|
|
|
|
"В науке существует убеждение, что объективный наблюдатель является идеальным создателем знаний о мире", - сказал Мессери. "Но это миф. Объективного "познающего" никогда не было и быть не может, и продолжение преследования этого мифа только ослабляет науку". Авторы добавляют, что существуют веские доказательства того, что человеческое разнообразие делает науку более надежной и творческой. "Признание того, что наука - это социальная практика, которая выигрывает от учета различных точек зрения, поможет нам полностью реализовать ее потенциал", - сказал Крокетт. "Замена различных точек зрения инструментами искусственного интеллекта обратит вспять прогресс, которого мы достигли в направлении включения большего количества перспектив в научную работу". Важно помнить о социальных последствиях искусственного интеллекта, которые выходят далеко за рамки лабораторий, где он используется в исследованиях, - сказал Мессери. "Мы обучаем ученых думать о технических аспектах новых технологий", - сказала она. "Мы и близко не обучаем их учитывать социальные аспекты, что жизненно важно для будущей работы в этой области".
|
|
|
|
Источник
|
