|
Где заканчивается мышление и начинается ИИ
|
|
|
|
Модели искусственного интеллекта последнего поколения более четкие и плавные, они создают отточенный текст с меньшим количеством ошибок и галлюцинаций. Как профессор философии, я испытываю растущее опасение: когда безупречное эссе больше не показывает, что студент все продумал, оценка выше него становится пустой — как и диплом.
|
|
|
|
Проблема не решается на занятиях. В таких областях, как юриспруденция, медицина и журналистика, доверие зависит от осознания того, что в работе руководствуются человеческим мнением. Например, пациент ожидает, что рецепт врача будет отражать мнение и подготовку специалиста.
|
|
|
|
Продукты ИИ теперь можно использовать для поддержки принятия решений людьми. Но даже если роль ИИ в выполнении такого рода работы невелика, вы не можете быть уверены, руководил ли процессом профессионал или просто написал несколько подсказок для выполнения работы. В этой ситуации исчезает подотчетность — ощущение того, что учреждения и отдельные лица могут отвечать за то, что они удостоверяют. И это происходит в то время, когда общественное доверие к гражданским институтам уже ослабевает.
|
|
|
|
Я рассматриваю образование как испытательный полигон для решения новой задачи: научиться работать с ИИ, сохраняя целостность и наглядность человеческого мышления. Реши проблему здесь, и может появиться план для других областей, где доверие зависит от осознания того, что решения по-прежнему принимаются людьми. На моих собственных занятиях мы тестируем протокол авторства, чтобы гарантировать, что написанное учащимися остается связанным с их мышлением, даже при участии искусственного интеллекта.
|
|
|
|
|
|
|
Когда обучение прерывается
|
|
|
|
Основной обмен мнениями между преподавателем и студентом затруднен. Недавнее исследование Массачусетского технологического института показало, что студенты, использующие большие языковые модели для написания эссе, чувствуют меньшую ответственность за свою работу и хуже справляются с ключевыми задачами, связанными с написанием текстов.
|
|
|
|
Студенты по-прежнему хотят учиться, но многие чувствуют себя побежденными. Они могут спросить: "Зачем продумывать все самому, если ИИ может просто подсказать мне?" Учителя беспокоятся, что их отзывы больше не принимаются. Как сказала одна второкурсница Колумбийского университета The New Yorker после публикации своего эссе с помощью искусственного интеллекта: "Если им это не нравится, значит, это написала не я, понимаете?"
|
|
|
|
Университеты испытывают трудности. Некоторые преподаватели пытаются сделать задания "проверенными с помощью искусственного интеллекта", переходя к личным размышлениям или требуя от студентов включать свои подсказки и обрабатывать их. За последние два года я пробовал их варианты на своих занятиях, даже просил студентов придумать новые форматы. Но искусственный интеллект может имитировать практически любую задачу или стиль.
|
|
|
|
Понятно, что сейчас многие призывают вернуться к тому, что называют "средневековыми стандартами": к сдаче тестов в классе с "синими тетрадями" и устным экзаменам. Однако в таких случаях в основном поощряется скорость в напряженных ситуациях, а не рефлексия. А если учащиеся будут использовать искусственный интеллект для выполнения заданий вне класса, учителя просто снизят планку качества, как это было сделано, когда смартфоны и социальные сети начали подрывать устойчивое чтение и внимание.
|
|
|
|
Многие учебные заведения прибегают к радикальным запретам или передают проблему в руки технических фирм, чьи детекторы регистрируют каждое нажатие клавиши и воспроизводят черновики, как фильмы. Преподаватели просматривают графики судебных разбирательств; учащиеся чувствуют, что за ними наблюдают. Слишком полезный, чтобы его запрещать, ИИ уходит в подполье, как контрабанда.
|
|
|
|
Проблема не в том, что ИИ делает доступными веские аргументы; это делают и книги, и коллеги. Отличие в том, что ИИ проникает в среду, постоянно нашептывая предложения на ухо ученику. Важно, просто повторяет ли ученик эти слова или использует их в своих собственных рассуждениях, но учителя не могут оценить это постфактум. Хорошая работа может скрывать зависимость, в то время как слабая может отражать реальную борьбу.
|
|
|
|
В то же время ИИ также скрывает другие признаки аргументации студентов — неуклюжие формулировки, которые улучшаются по ходу работы, качество цитат, общую беглость изложения.
|
|
|
|
Восстановление связи между процессом и продуктом
|
|
|
|
Хотя многие с радостью отказались бы от самостоятельного мышления, именно это делает обучение длительным и готовит студентов к тому, чтобы они стали ответственными профессионалами и лидерами. Даже если бы передача контроля ИИ была желательной, его нельзя привлечь к ответственности, и его создатели не хотят такой роли. Единственный вариант, на мой взгляд, - это защитить связь между рассуждениями студента и работой, на которой они строятся.
|
|
|
|
Представьте себе учебную платформу, где учителя устанавливают правила для каждого задания, выбирая, как использовать искусственный интеллект. Эссе по философии может выполняться в режиме без использования искусственного интеллекта - учащиеся пишут в окне, которое отключает копирование—вставку и внешние вызовы искусственного интеллекта, но позволяет сохранять черновики. В проекте по программированию может быть предусмотрена помощь ИИ, но перед отправкой необходимо сделать паузу, чтобы задать студенту краткие вопросы о том, как работает его код. Когда работа отправляется преподавателю, система выдает защищенную квитанцию — цифровую бирку, похожую на запечатанный конверт для экзамена, — подтверждающую, что она была выполнена в соответствии с указанными условиями.
|
|
|
|
Это не обнаружение: алгоритм не сканирует маркеры ИИ. И это не слежка: нет регистрации нажатий клавиш или слежки за черновиками. Условия задания, связанные с ИИ, встроены в процесс подачи заявки. Работа, которая не соответствует этим условиям, просто не будет выполнена, например, когда платформа отклоняет неподдерживаемый тип файла.
|
|
|
|
В моей лаборатории в Университете Темпл мы апробируем этот подход, используя разработанный мной протокол авторства. В основном режиме проверки авторства ассистент с искусственным интеллектом задает краткие разговорные вопросы, которые возвращают учащихся к размышлениям: "Не могли бы вы более четко сформулировать свою основную мысль?" или "Есть ли лучший пример, подтверждающий ту же идею?" Их краткие, оперативные ответы и правки позволяют системе оценить, насколько хорошо согласуются их рассуждения с окончательным проектом.
|
|
|
|
Подсказки в режиме реального времени адаптируются к письменной форме каждого ученика, чтобы снизить затраты на списывание, а не на обдумывание. Цель состоит не в том, чтобы выставить оценки или заменить учителей, а в том, чтобы связать работу, которую выполняют ученики, с аргументацией, которая ее привела. Для учителей это восстанавливает уверенность в том, что их отзывы основаны на реальных рассуждениях учащихся. Для учащихся это развивает метакогнитивную осведомленность, помогая им понять, когда они действительно думают, а когда просто отвлекаются.
|
|
|
|
Я считаю, что преподаватели и исследователи должны иметь возможность самостоятельно проверять авторство, выдавая каждому из них защищенный ярлык, подтверждающий работу, выполненную в рамках выбранного ими процесса, который затем может быть одобрен учебными заведениями.
|
|
Как взаимодействуют люди и интеллектуальные машины
|
|
|
|
Соответствующие усилия предпринимаются и вне сферы образования. В издательском деле в рамках сертификации уже проводятся эксперименты с печатями, "написанными руками человека". Однако без надежной проверки такие надписи превращаются в маркетинговые заявления. Необходимо проверять не нажатия клавиш, а то, как люди выполняют свою работу.
|
|
|
|
Это ставит вопрос о когнитивном авторстве: не о том, использовался ли ИИ и в каком объеме, а о том, как его интеграция влияет на владение и рефлексию. Как недавно заметил один врач, для изучения того, как использовать ИИ в медицине, потребуется собственная наука. То же самое относится к любой области, которая зависит от человеческого суждения.
|
|
|
|
Я рассматриваю этот протокол как уровень взаимодействия с тегами проверки, которые перемещаются вместе с работой, куда бы она ни направлялась, подобно электронной почте, передаваемой между поставщиками. Он дополнит уже существующие технические стандарты для проверки цифровой идентификации и происхождения контента. Ключевое отличие заключается в том, что существующие протоколы удостоверяют артефакт, а не стоящее за ним человеческое суждение.
|
|
|
|
Без предоставления профессионалам контроля над тем, как используется ИИ, и без обеспечения места человеческого суждения в работе с помощью ИИ технологии искусственного интеллекта рискуют подорвать доверие, от которого зависят профессии и гражданские институты. ИИ - это не просто инструмент; это когнитивная среда, изменяющая наше мышление. Чтобы жить в этой среде на наших собственных условиях, мы должны создавать открытые системы, в центре которых будет стоять человеческое суждение.
|
|
|
|
Источник
|
