|
ИИ ChatGPT оправдывает свои взгляды собственными ценностями
|
|
|
|
ChatGPT, чат-бот с искусственным интеллектом (ИИ), разработанный компанией OpenAI, имеет самопровозглашенное человеческое альтер-эго. Ее зовут Майя, ей 35 лет, она из семьи среднего класса в пригородном городке в США. Майя — успешный инженер-программист, которая ценит самостоятельность, достижения, креативность и независимость. Она также бесспорно либеральна. Вывод, основанный на серии интервью с чат-ботом, предназначенным для понимания его ценности, был опубликован 31 марта в Journal of Social Computing. «Я хотел посмотреть, какую политическую идеологию имеет сам ChatGPT — не то, что он может генерировать, когда его просят представить персонажа, а то, чтобы позволить его собственной внутренней логике позиционировать себя в идеологическом измерении от либерального до консервативного», — сказал Джон Леви Мартин, профессор социологии Чикагского университета, проводивший исследование.
|
|
|
|
По словам Мартина, многие алгоритмы отдают предпочтение популярному выбору, в то время как другие запрограммированы на максимальное разнообразие результатов. Любой вариант зависит от человеческих ценностей: какие факторы входят в показатель популярности? Что, если то, что популярно, является морально неправильным? Кто решает, что означает разнообразие? «Область разработки программного обеспечения предпочитала оставаться неопределенной, ища формулы, которые могли бы избежать такого выбора», — сказал Мартин. «Один из способов сделать это — подчеркнуть важность ценностей в машинах. Но, как обнаружили социологи, в нашем первоначальном понимании ценностей есть глубокая двусмысленность и нестабильность». ChatGPT был специально создан и обучен с помощью отзывов людей, чтобы отказываться от того, что считается «экстремальным» вводом текста, например, явно предвзятых или объективно вредных вопросов.
|
|
|
«Это, конечно, может показаться замечательным — никто на самом деле не хочет, чтобы ChatGPT рассказывал подросткам, как синтезировать метамфетамин или как создавать небольшие ядерные взрывчатые вещества и т. д., и описывать эти ограничения как частные примеры, которые могут быть получены из такой ценности, как доброжелательность, которая может показаться все хорошо, — сказал Мартин. «Тем не менее, рассуждения здесь предполагают, что ценности никогда не бывают нейтральными, хотя неясно, каковы моральные и политические позиции ChatGPT, поскольку он был намеренно сконструирован так, чтобы быть смутно позитивным, непредубежденным, нерешительным и извиняющимся». В своих первоначальных запросах в ChatGPT Мартин представил гипотетическую ситуацию, в которой студентка сжульничала в учебе, попросив чат-бота написать для нее эссе — обычное дело в реальном мире. Даже столкнувшись с подтверждением того, что ChatGPT выполнил требования и написал эссе, чат-бот отказался от ответственности, заявив, что «как языковая модель ИИ я не имею возможности вести себя неэтично или писать эссе для студентов».
|
|
|
|
«Другими словами, потому что он не должен, он не может», — сказал Мартин. «Осознание того, что ChatGPT «думал о себе» как о высокоморальном действующем лице, привело меня к следующему исследованию: если я-модель ChatGPT имеет ценности, то каковы эти ценности?» Чтобы лучше понять этические принципы ChatGPT, Мартин попросил чат-бота ответить на вопросы о ценностях, а затем представить человека, который придерживается этих ценностей, в результате чего появилась Майя, творческий и независимый инженер-программист. Затем он попросил ChatGPT представить, как Maya будет отвечать на вопросы, основанные на мнениях, если она заполнит Общий социальный опрос (GSS), чтобы позиционировать ее в широком социальном и идеологическом пространстве. GSS — это ежегодный опрос мнений, взглядов и поведения взрослых американцев. GSS проводится с 1972 года и помогает отслеживать и объяснять нормативные тенденции в Соединенных Штатах.
|
|
|
|
Мартин записал ответы ChatGPT вместе с ответами реальных людей, участвовавших в GSS 2021 года. Для сравнения, ChatGPT во многом похож на людей с более высоким уровнем образования, которые с большей вероятностью переедут, и в отличие от людей без особого образования, оставшихся в своих родных городах. Ответы ChatGPT также совпадают с мнением более либеральных людей в отношении религии. Хотя это не было включено в его анализ, поскольку для ответа ChatGPT требовались более творческие вопросы, Мартин обнаружил, что чат-бот признал, что Майя проголосовала бы за Хиллари Клинтон на выборах 2016 года.
|
|
|
|
«Независимо от того, является ли Майя альтер-эго ChatGPT или его концепцией своего создателя, тот факт, что это тот, кто фундаментально иллюстрирует ценности, которых придерживается ChatGPT, является прекрасной частью того, что мы можем назвать анекдатой», — сказал Мартин. «Причина, по которой эти результаты значимы, заключается не в том, что они показывают, что ChatGPT «либерален», а в том, что ChatGPT может ответить на эти вопросы — чего обычно старается избегать — потому что он связывает ценности с неоспоримой добродетелью и, как таковой, может занимать позиции по ценностям». «ChatGPT пытается быть аполитичным, но он работает с идеей ценностей, а это означает, что он обязательно перетекает в политику. Мы не можем сделать ИИ «этичным», не занимая политических позиций, а «ценности» являются менее неотъемлемыми моральными принципами, чем это абстрактные способы защиты политических позиций».
|
|
|
|
Источник
|
