|
ИИ может повлиять на поведение избирателей
|
|
|
|
Системы ИИ все чаще формируют общественное мнение, часто очень скрытыми способами. Новое исследование показывает, что действующее законодательство, такое как Закон ЕС об ИИ, плохо приспособлено к таким изменениям. Результаты исследования, автором которых являются исследователи из Института Вейценбаума, были недавно опубликованы в журнале Communications of the ACM.
|
|
|
|
Большие языковые модели (LLM), использующиеся в приложениях искусственного интеллекта, все чаще служат информационными "привратниками". Стефан Шмид, главный исследователь Института Вейценбаума, и Адриан Кюнцлер из Гонконгского университета (бывший научный сотрудник Института Вейценбаума) исследовали, как эти модели передают предвзятость, связанные с этим социальные риски и где необходимо усилить нормативную базу.
|
|
|
|
Искусственный интеллект как лидер общественного мнения
|
|
|
|
Языковые модели являются основой бесчисленного множества цифровых приложений — от чат-ботов и виртуальных помощников до сложных систем принятия решений на рабочем месте. Исследование показывает, что эти системы имеют множество недостатков. Их результаты основаны на шаблонах в обучающих данных, определяющих предпочтения в отношении конкретных мировоззрений и ценностей. Кроме того, системы искусственного интеллекта часто настраиваются таким образом, чтобы усилить существующие предубеждения пользователя или отфильтровать определенные типы контента.
|
|
|
|
|
|
|
"Возможность того, что большие языковые модели могут незаметно влиять на политические взгляды и поведение избирателей, представляет серьезную угрозу для публичного дискурса и нашей демократии", - объясняет Стефан Шмид. Он отмечает, что это влияние часто носит подсознательный характер, из-за чего пользователям трудно распознать, что на них оказывают влияние.
|
|
|
|
Законодательные пробелы: Закон об искусственном интеллекте и DSA находятся под пристальным вниманием
|
|
|
|
В исследовании представлен критический анализ действующего европейского законодательства, в частности Закона о цифровых услугах (DSA) и Закона об искусственном интеллекте. Авторы приходят к выводу, что эти законы касаются предвзятого отношения к коммуникациям в ИИ только как побочного продукта более широких мер по обеспечению безопасности и модерации контента.
|
|
|
|
Основное внимание по-прежнему уделяется предотвращению "очевидного" вреда, в то время как тонкое искажение общественного дискурса и демократических процессов из-за предвзятости LLM в значительной степени игнорируется. Кроме того, доминирование на рынке нескольких компаний, занимающихся ИИ, создает дополнительный риск, потенциально сужая разнообразие перспектив в цифровой сфере.
|
|
|
|
Призыв к комплексному подходу к регулированию
|
|
|
|
Для эффективной защиты от дискриминации и поляризации Шмид и Кюнцлер предлагают расширить сферу регулирования. Они утверждают, что сочетание модерации контента, конкуренции, регулирования цепочки создания стоимости и управления техническим дизайном имеет решающее значение для создания разнообразных и прозрачных систем искусственного интеллекта, которые устраняют предвзятость и одновременно способствуют созданию сбалансированной цифровой информационной экосистемы.
|
|
|
|
Источник
|
