|
Искусственный интеллект меняет научные публикации
|
|
|
|
Инфографика с изображением крысы с невероятно большим пенисом. На другой изображены человеческие ноги со слишком большим количеством костей. Введение, которое начинается словами: "Конечно, вот возможное введение к вашей теме".
|
|
|
|
Это несколько наиболее вопиющих примеров искусственного интеллекта, которые недавно появились в научных журналах и проливают свет на волну текстов и изображений, созданных с помощью искусственного интеллекта, захлестнувшую академическую издательскую индустрию.
|
|
|
|
Несколько экспертов, которые отслеживают проблемы в исследованиях, сообщили AFP, что развитие искусственного интеллекта усугубило существующие проблемы в многомиллиардном секторе.
|
|
|
|
Все эксперты подчеркивали, что программы с искусственным интеллектом, такие как ChatGPT, могут быть полезным инструментом для написания или перевода статей, если их тщательно проверять и раскрывать.
|
|
|
|
Но в нескольких недавних случаях, которые каким-то образом прошли экспертизу, этого не произошло.
|
|
|
|
Ранее в этом году в социальных сетях появилось изображение крысы с невероятно огромными гениталиями, явно сгенерированное искусственным интеллектом.
|
|
|
Результаты были опубликованы в журнале научного гиганта Frontiers, который позже отозвал результаты исследования.
|
|
|
|
В прошлом месяце было отозвано другое исследование из-за графического изображения с помощью искусственного интеллекта, на котором были изображены ноги со странными многосуставчатыми костями, напоминающими руки.
|
|
|
|
Хотя эти примеры были изображениями, считается, что именно чат-бот ChatGPT, запущенный в ноябре 2022 года, больше всего изменил то, как мировые исследователи представляют свои результаты.
|
|
|
|
Исследование, опубликованное Elsevier, стало популярным в марте из-за его введения, которое, очевидно, было приглашением в чат, которое гласило: "Конечно, вот возможное введение к вашей теме".
|
|
|
|
Такие неловкие примеры редки, и вряд ли они пройдут процедуру рецензирования в самых престижных журналах, сообщили агентству AFP несколько экспертов.
|
|
Опрокидывание на бумажных фабриках
|
|
|
|
Не всегда так просто обнаружить использование искусственного интеллекта. Но одна из подсказок заключается в том, что в ChatGPT предпочтение отдается определенным словам.
|
|
|
|
Эндрю Грей, библиотекарь из Университетского колледжа Лондона, просмотрел миллионы документов в поисках чрезмерного употребления таких слов, как "тщательный", "сложный" или "похвальный".
|
|
|
|
Он подсчитал, что в 2023 году по меньшей мере 60 000 работ были связаны с использованием искусственного интеллекта — более одного процента от общего числа за год.
|
|
|
|
"В 2024 году мы ожидаем значительного увеличения числа отзывов", - сказал Грей агентству AFP.
|
|
|
|
Между тем, по данным американской группы Retraction Watch, в прошлом году было отозвано более 13 000 статей, что является рекордным показателем за всю историю.
|
|
|
|
Искусственный интеллект позволил злоумышленникам в научных издательствах и академических кругах "индустриализировать переизбыток" "ненужных" бумаг, сказал AFP соучредитель Retraction Watch Иван Орански.
|
|
|
|
К таким злоумышленникам относятся так называемые бумажные фабрики.
|
|
|
|
Эти "мошенники" продают авторство исследователям, публикуя огромное количество статей очень низкого качества, содержащих плагиат или поддельные работы, говорит Элизабет Бик, голландская исследовательница, которая выявляет манипуляции с научными изображениями.
|
|
|
|
Считается, что два процента всех исследований публикуются бумажными фабриками, но этот показатель "стремительно растет", поскольку ИИ открывает шлюзы, сказал Бик AFP.
|
|
|
|
Эта проблема была выявлена, когда гигант академических изданий Wiley приобрел проблемное издательство Hindawi в 2021 году.
|
|
|
|
С тех пор американская фирма отозвала более 11 300 документов, связанных со специальными выпусками Hindawi, сообщил агентству AFP представитель Wiley.
|
|
|
|
Компания Wiley представила "службу обнаружения бумажных фабрик" для выявления злоупотреблений ИИ, которая сама работает на базе ИИ.
|
|
"Порочный круг"
|
|
|
|
Орански подчеркнул, что проблема заключается не только в бумажных фабриках, но и в более широкой академической культуре, которая подталкивает исследователей к "публикации или гибели".
|
|
|
|
"Издатели получили от 30 до 40 процентов прибыли и миллиарды долларов прибыли за счет создания этих систем, требующих большого объема", - сказал он.
|
|
|
|
Ненасытный спрос на все большее количество статей оказывает давление на ученых, которые оцениваются по их результатам, создавая "порочный круг", - сказал он.
|
|
|
|
Многие обратились к ChatGPT, чтобы сэкономить время, что не обязательно плохо.
|
|
|
|
Поскольку почти все статьи публикуются на английском языке, Бик сказала, что инструменты перевода с помощью искусственного интеллекта могут быть неоценимы для исследователей, включая ее саму, для которых английский не является родным языком.
|
|
|
|
Но есть также опасения, что ошибки, изобретения и невольный плагиат со стороны искусственного интеллекта могут все больше подрывать доверие общества к науке.
|
|
|
|
Еще один пример неправильного использования ИИ появился на прошлой неделе, когда исследователь обнаружил то, что оказалось переписанной версией одного из его собственных исследований, опубликованного в научном журнале.
|
|
|
|
Сэмюэл Пейн, профессор биоинформатики из Университета Бригама Янга в Соединенных Штатах, рассказал агентству AFP, что в марте его попросили провести экспертную оценку исследования.
|
|
|
|
Поняв, что это был "100—процентный плагиат" его собственного исследования — но с текстом, который, по-видимому, был перефразирован программой искусственного интеллекта, - он отклонил статью.
|
|
|
|
Пейн сказал, что он был "шокирован", обнаружив, что работа, ставшая результатом плагиата, была просто опубликована в другом месте, в новом журнале Wiley под названием Proteomics.
|
|
|
|
Она не была отозвана.
|
|
|
|
Источник
|
