Вы не можете проверить говорит ли ChatGPT правду
Из всех реакций, вызванных ChatGPT, чат-ботом американской коммерческой компании OpenAI, который дает грамматически правильные ответы на запросы на естественном языке, лишь немногие могут сравниться с реакцией преподавателей и ученых. Академические издатели приняли решение запретить ChatGPT указываться в качестве соавтора и издать строгие правила с изложением условий, при которых он может использоваться. Ведущие университеты и школы по всему миру, от известного французского Sciences Po до многих австралийских университетов, запретили его использование.
Эти запреты — не просто действия ученых, которые беспокоятся, что им не удастся поймать мошенников. Речь идет не только о поимке студентов, скопировавших источник без указания авторства. Скорее серьезность этих действий отражает вопрос, которому не уделяется достаточного внимания в бесконечном освещении чат-бота OpenAI ChatGPT: почему мы должны доверять всему, что он выводит? Это жизненно важный вопрос, поскольку ChatGPT и подобные ему программы можно легко использовать, с указанием или без, в источниках информации, составляющих основу нашего общества, особенно в академических кругах и средствах массовой информации.
Основываясь на моей работе по политической экономии управления знаниями, академические запреты на использование ChatGPT являются пропорциональной реакцией на угрозу, которую ChatGPT представляет для всей нашей информационной экосистемы. Журналисты и ученые должны с осторожностью использовать ChatGPT. Судя по результатам, ChatGPT может показаться просто еще одним источником информации или инструментом. Однако на самом деле ChatGPT — или, скорее, средства, с помощью которых ChatGPT производит свою продукцию, — это кинжал, нацеленный непосредственно на их авторитет как авторитетных источников знаний. Не следует относиться к этому легкомысленно.
Подумайте, почему мы считаем одни источники информации или виды знаний более надежными, чем другие. Со времен европейского Просвещения мы склонны отождествлять научное знание со знанием вообще. Наука — это больше, чем лабораторные исследования: это способ мышления, который отдает приоритет эмпирическим доказательствам и поиску прозрачных методов сбора и оценки доказательств. И это, как правило, золотой стандарт, по которому оцениваются все знания. Например, журналисты пользуются доверием, потому что они исследуют информацию, цитируют источники и предоставляют доказательства. Хотя иногда отчеты могут содержать ошибки или упущения, это не меняет авторитета профессии.
То же самое касается авторов передовиц, особенно ученых и других экспертов, потому что они — мы — черпаем свой авторитет из нашего статуса экспертов в предмете. Экспертиза включает в себя владение источниками, которые признаны содержащими законные знания в наших областях. Большинство статей не содержат большого количества ссылок, но ответственные ученые смогут указать вам на мыслителей и работу, на которую они опираются. И сами эти источники основаны на проверяемых источниках, которые читатель должен иметь возможность проверить самостоятельно. Поскольку авторы-люди и ChatGPT, похоже, производят один и тот же результат — предложения и абзацы, — понятно, что некоторые люди могут по ошибке присвоить этот научно обоснованный авторитет выходу ChatGPT. В том, что и ChatGPT, и репортеры выдают предложения, сходство заканчивается. Самое главное — источник авторитета — это не то, что они производят, а то, как они это производят.
ChatGPT не выдает предложений так, как это делает репортер. ChatGPT и другие модели больших языков с машинным обучением могут показаться сложными, но в основном это просто сложные машины автозаполнения. Только вместо того, чтобы предлагать следующее слово в электронном письме, они производят наиболее статистически вероятные слова в гораздо более длинных пакетах. Эти программы переупаковывают чужую работу, как будто это что-то новое. Он не «понимает», что производит. Оправдание этих выводов никогда не может быть правдой. Его истинность заключается в истинности соотношения, что слово «предложение» всегда должно завершать фразу «Мы заканчиваем друг друга…», потому что это наиболее частое явление, а не потому, что оно выражает что-то наблюдаемое.
Поскольку истина ChatGPT является лишь статистической истиной, выводам этой программы нельзя доверять так же, как мы можем доверять репортеру или выводам ученого. Его невозможно проверить, потому что он был создан для получения результатов, отличным от того, что мы обычно считаем «научным». Вы не можете проверить источники ChatGPT, потому что источником является статистический факт, что большую часть времени набор слов имеет тенденцию следовать друг за другом. Независимо от того, насколько последовательным может показаться вывод ChatGPT, простая публикация того, что он производит, по-прежнему эквивалентна тому, чтобы позволить автозаполнению разгуляться. Это безответственная практика, потому что она делает вид, что эти статистические уловки эквивалентны хорошо проверенным знаниям.
Точно так же ученые и другие лица, включающие ChatGPT в свой рабочий процесс, подвергаются экзистенциальному риску выбить из-под себя все здание научных знаний. Поскольку выходные данные ChatGPT основаны на корреляции, как автор узнает, что они точны? Проверяли ли они это по реальным источникам, или вывод просто соответствовал их личным предубеждениям? И если они являются экспертами в своей области, почему они вообще используют ChatGPT? Дело в том, что процессы ChatGPT не дают нам возможности проверить его правдивость. Напротив, тот факт, что у репортеров и ученых есть научный, основанный на фактических данных метод получения знаний, служит подтверждением их работы, даже если результаты могут противоречить нашим предвзятым представлениям.
Проблема особенно актуальна для ученых, учитывая нашу центральную роль в создании знаний. Полагаясь на ChatGPT, чтобы написать даже часть столбца, они больше не полагаются на научный авторитет, заложенный в проверенных источниках. Вместо этого, прибегая к статистически сгенерированному тексту, они фактически выдвигают аргумент из авторитета. Такие действия также вводят читателя в заблуждение, поскольку читатель не может отличить авторский текст от ИИ. ChatGPT может производить кажущиеся разборчивыми знания, как по волшебству. Но нам не следует путать его результаты с реальными научными знаниями. Никогда не следует путать согласованность с пониманием. ChatGPT обещает легкий доступ к новым и существующим знаниям, но это отравленная чаша. Остерегайтесь читателей, ученых и журналистов.
Источник
Последние аномальные новости

Жители острова Пасхи посещали Южную Америку

Загадка образования первых галактик

Загадочный проект 'Синий луч' в действии

Замаскированный НЛО замечен над Португалией

Изучение экзотических звездных явлений

Космический телескоп распутал историю нашей галактики

Марсианский вертолет мог бы стать бортовым геологом

НЛО замечен над Южной Африкой

НЛО летают над атомными электростанциями Индии

Новый троянский астероид нашли на орбите Марса

Обнаружены четыре новых экзотических белых карлика

Понимание коррозии позволяет создавать новые металлы

Сверхмассивная черная дыра не оправдывает ожиданий

Секреты пояса Ван Аллена раскрыты

Стареющие коричневые карлики становятся одинокими

Таинственный свет в небе над Сан-Антонио

Темная материи поможет понять эволюцию галактик

Уфологи могут научить нас политической паранойе

Элитные коммандос захватили НЛО

Японский летчик-истребитель рассказал о НЛО

Бигфут и сасквоч - инопланетные гибриды

Выявили лучшие места в США для обнаружения НЛО

Инопланетяне дали нам план Стоунхенджа

Инопланетяне используют невероятные технологии

Культурная площадь в Розуэлле примет уфо-фестиваль

НЛО вблизи ядерных установок ставят экспертов в тупик

НЛО замечен над поверхностью Луны

Оборона землян будет быстро подавлена инопланетянами

Общественный колледж Портленда предлагает курс по НЛО

Одна из дюжины звезд поедает свои планеты

Официальные лица США ничего не знают о НЛО

Планетологи пытаются оценить толщину льда на Европе

Поиски обломков рейса MH370 дали новую надежду

Пришло время изучить лунные лавовые трубки

Самые паранормальные места в Нью–Йорке

Строительные блоки жизни стабильны в условиях Венеры

Уинстон Черчилль скрывал информацию об НЛО

Уфологи устремились на юг Франции

Фестиваль НЛО пройдет в апреле в Эдинбурге

Шведский архив регистрирует паранормальные явления

Автокресло

Влияние накрутки реакций в Telegram на контентную стратегию. Анализ и рекомендации

Астрофизики дадут подсказку в поисках темной материи

Более 1500 наблюдений НЛО над Великобританией за 4 года

Британский взгляд на внешность инопланетян

В Великобритании замечено почти 2000 наблюдений НЛО

ИИ ChatGPT является очень эффективным инструментом

Как были сделаны татуировки ледяного человека Эци

Как, по мнению британцев, выглядят инопланетяне

Китай может начать атаку на США с Луны

Китай строит ядерный космический двигатель

Люди изменили свои суждения под воздействием ИИ

Наблюдения НЛО в районе Тиссайда

Наблюдения НЛО над Ноттингемширом за последние три года

Намеки на третью планету системе PDS 70

Начались продажи электрических летающих такси

Нашли одну из древнейших звезд

Один астероид создал более 2 млрд вторичных кратеров

Пентагон усердно скрывает информацию об НЛО

Плавающие кристаллы замедляют старение звезд

Планетарная геофизика поможет в поиске инопланетян

Последние наблюдения НЛО в Лестершире

Почему миллиардеры по всему миру строят бункеры

Рентген показал каменного младенца внутри женщины

Робот, который выполнил сальто назад без гидравлики

Сбитый с толку астроном заметил НЛО над Луной

Следующий имплант Neuralink подарит зрение слепым

Собираются создать лунную железную дорогу

Создали импульсный двигатель на водяном топливе

У людей с гаванским синдромом не выявили повреждений мозга

Флотилия НЛО замечена над горой Шаста

Эра ИИ наступит быстрее, чем мы думали

Анализ может привести к изменению парадигмы о НЛО

Более 1500 наблюдений НЛО над Англией за 4 года

В Башкирии заметили падение с неба светящегося шара

Вампиршу XVI века похоронили с кирпичом в зубах

Детей из Зимбабве мучает полтергейст

Екатеринбуржцы увидели НЛО в облаках над городом

Жительница Эдинбурга заметила дискообразный НЛО

Загадка Безумного камня

Йог 22 года медитирует на жутком холоде

Как мы будем с ними разговаривать с инопланетянами

Легендарная подземная школа чернокнижников

Мы увидим полностью созданные ИИ игры через 5-10 лет

Наблюдения НЛО в Англии с 2020 года

Наблюдения НЛО над Мерсисайдом

Наркомана убила статуя Будды

НАСА обнаружит жизнь на Европе к 2030 году

Нечто с длинной шеей попал на камеру наблюдения

НЛО пролетает над поверхностью Луны

НЛО сбили в бразильском городе Пау Гранде

Новые изображения дьявольской кометы

Новые необычные наблюдения НЛО в районе Ковентри

ООН приняла эпохальную резолюцию по ИИ

Полемика вокруг загадочных сферул не утихает

Процедуры отчетности о НЛО и утилизации материалов

Рост числа государственных служащих-роботов

Самые реалистичные сценарии Апокалипсиса

Ужасающее заболевание - синдром лица демона

Что предсказал Нострадамус России

Штаты США, где вы будете похищены инопланетянами

Эволюция мозговых чипов

Бетти Андреассон провела у пришельцев несколько часов

Где в США лучшее место, чтобы увидеть НЛО

Загадочный космонавт Солуэй Ферт

Интерактивная карта НЛО в Великобритании

Истинно верующие атаковали бывшего главу AARO

Историческая уфологическая хроника

Лучшее место для встречи с инопланетянами

Не ждите правды от правительства США о НЛО

Несколько НЛО были замечены над Орегоном

Нефтянник заметил НЛО в форме тарелки

НЛО заметили в штате Миннесота

НЛО над фермой в Орегоне

НЛО украл шесть дней из жизни Трэвиса Уолтона

Офицер полиции Лонни Замора заметил НЛО

Парень заметиил НЛО прежде чем они растворились

Первая трансплантация ГМ-почки свиньи пациенту

Похищение Бетти и Барни Хилл одно из самых странных

Сексуальные эксперименты инопланетян над землянами

Тайна наблюдений НЛО вблизи ядерных объектов

Уфологи терроризируют бывшего директора AARO

Азиатская Зона 51 проводит фестиваль

Астероид изменил форму после удара зонда землян

Вы когда-нибудь сталкивались с инопланетянами в Айдахо

Изменяющий форму НЛО замечен над Бирмингемом

ИИ комментирует теории заговора о Кеннеди

ИИ может заменить умерших близких людей

ИИ становится волком с Уолл-стрит

Масштабная уфо-конференция все ближе

Модель Эбби Клэнси боится инопланетян

Нашли лучшее место для наблюдений НЛО в США

НЛО в форме тарелки парил над нефтяной вышкой

Одержимая женщина помочилась черным

Пациент Neuralink с параличом конечностей играет в шахматы

Похищение в Паскагуле покажут на Netflix

Почему так много людей все еще верят в НЛО

Сверхпроводимости при комнатной температуре не существует

Уфологи собрались у офиса Чака Шумера в Нью-Йорке

Уфологи устремились в тихий город Лимож

Уфологическая неделя на британском ТВ

Я вырос, мучимый злыми демонами, теперь я экзорцист

Быстрые займы онлайн

Аватар никогда не будет лгать или будет

Адмирал ВМС видел секретные файлы об НЛО

Водород обеспечивал энергию при зарождении жизни

Высокоскоростная камера зафиксировала полет НЛО

Добровольцы обнаружили 15 редких активных астероидов

Инопланетяне более чем реальны

Как Земля остается пригодной для жизни

Может ли земная жизнь выжить у красного карлика

Наблюдения НЛО в Арканзасе

Нам следует изучать на неопознанные подводные объекты

Нейтринный фон мог бы многое рассказать нам о Вселенной

Нехватка воды приводит к образованию кругов фей

НЛО замечен над Лас-Вегасом и горой Спирит

Оператор нефтяной вышки заметил НЛО

Опубликована карта активных черных дыр

Песчаные дюны Титана состоят из разбитых маленьких лун

Сколько времени потребуется, чтобы обойти Марс

Таинственные звери Японии. Жуткие ползающие твари

Тайна сознания. Чего может достичь наука

Уфо-конференция стоимостью 160 фунтов за билет

Британский спецназ обнаружил сбитый НЛО

Воспроизвели самую раннюю форму жизни в лаборатории

Где замечали рейс MH370 на картах Google

ИИ представляет угрозу для человечества

Кукла на ветрине пугает покупателей

НЛО - это одно, но НПО представляют реальную угрозу

НЛО представляют явную и настоящую опасность

Новые кадры НЛО являются ключом к разгадке тайны

НПО представляют угрозу

Пентагон продолжает поиски внеземной жизни

Пилоты путают НЛО со спутниками Starlink

Портативные наборы для обнаружения НЛО

Робот пародирует Илона Маска и Дональда Трампа

Секретные материалы газеты Гримсби Телеграф

Сколько НЛО было замечено в Мичигане

Тайна, стоящая за взрывом наблюдений НЛО

Тайны легендарного наблюдения 'Огни Феникса'

Уфологи вызовут НЛО для документального фильма

Что случилось с рейсом MH370

Я скептически отношусь к инопланетным НЛО

Натуральная продукция по уходу за лицом и телом. Основные плюсы

Военный ИИ Пентагон улучшал с помощью StarCraft II

Дементора сняли в небе над Калифорнией

Подписка на новости
Наверх
Яндекс.Метрика