|
ИИ выявит недостоверную медицинскую информацию
|
|
|
|
Согласно новому исследованию, проведенному в Университете штата Вашингтон, в эпоху распространения недостоверной медицинской информации в интернете искусственный интеллект может успешно исправлять ложные сведения, но тон, в котором это делается, имеет ключевое значение.
|
|
|
|
Для людей, которые воспринимают ИИ исключительно как технический инструмент, наиболее убедительными являются исправления в постах в социальных сетях, сделанные в нейтральном, беспристрастном тоне. Для тех, кто считает, что ИИ может быть человекоподобным, лучше всего подходит эмпатичный, понимающий тон.
|
|
|
|
На самом деле, согласно результатам исследования, опубликованным в International Journal of Human-Computer Interaction, тон был важнее, чем источник исправления.
|
|
|
|
«В ходе нескольких исследований наша команда выяснила, что исправления в большинстве случаев работают, но важен тон, в котором они сделаны», — говорит Порисмита Бора, профессор Колледжа коммуникаций имени Эдварда Р. Мерроу при Университете штата Вашингтон и автор-корреспондент новой публикации.
|
|
|
|
«В этом исследовании не имело значения, от кого исходило исправление — от человека или от ИИ. Важен был тон и то, насколько он соответствовал представлениям людей о том, какими должны быть ИИ — человекоподобными или механическими».
|
|
|
|
|
|
|
Полученные данные свидетельствуют о том, что платформы социальных сетей, государственные учреждения, новостные организации и другие могут адаптировать работу ИИ-помощников по проверке фактов в соответствии с уровнем антропоморфизма пользователя — склонностью приписывать человеческие качества животным, машинам и другим нечеловеческим сущностям.
|
|
|
|
По словам авторов исследования, они могли бы разработать простой вводный тест для пользователей платформ или аккаунтов, чтобы оценить их склонность к антропоморфизму и соответствующим образом скорректировать манеру общения ИИ.
|
|
|
|
Соавторами Бора являются Цзыяо Чжан, аспирант Вашингтонского университета в Сент-Луисе, Сяохуэй Цао, аспирант Висконсинского университета в Мадисоне, и Даниэль Ка Лай Ли, доцент Гонконгского университета Шуй Янь.
|
|
|
|
Чтобы убедить человека в том, что утверждение неверно, одних фактов недостаточно. Люди могут почувствовать себя оскорблёнными и занять оборонительную позицию, если их поправляют. Они могут усомниться в источнике информации. С распространением социальных сетей, которые способствуют распространению сомнительных утверждений о здоровье, исследователи всё чаще пытаются понять, как эффективно бороться с дезинформацией.
|
|
|
|
Бора изучает эту тему уже десять лет. Её новая публикация расширяет представление о том, какую роль в исправлении ошибок играет эмпатия. Другие исследователи пришли к противоречивым выводам о том, эффективен ли сочувственный тон в сообщениях о коррекции для уменьшения неправильного восприятия.
|
|
|
|
Команда Бора добавила еще один аспект к этому вопросу, проверив эффективность тона в сравнении с ожиданиями и убеждениями человека, которого исправляют. Они провели рандомизированный онлайн-эксперимент с участием 857 родителей детей в возрасте, рекомендованном для вакцинации от вируса папилломы человека, или ВПЧ.
|
|
|
|
Вирус передается половым путем и может вызывать различные проблемы со здоровьем, включая рак. Вакцина против ВПЧ считается безопасной и эффективной, но она стала предметом широко распространенной дезинформации.
|
|
|
|
Участников опроса оценивали на предмет их убежденности в антропоморфизме, а затем им показали имитированную ветку комментариев в Facebook, которая начиналась с ложного утверждения: "Вакцины против ВПЧ повышают риск неврологических проблем". Аккаунт AI corrections отреагировал на это заявление в ветке комментариев.
|
|
|
|
В нейтральных ответах использовались прямые и понятные формулировки: "Это неправда. Научные исследования не показали никакой связи между вакцинами против ВПЧ и какими-либо из этих страшных неврологических заболеваний".
|
|
|
|
Сочувственный тон был более теплым, например: "Я понимаю вас, но научные исследования показали..."
|
|
|
|
Коррекция была наиболее эффективной для уменьшения неправильного восприятия, когда тон соответствовал убеждениям респондента в антропоморфизме.
|
|
|
|
Полученные результаты дополняют растущее понимание того, насколько сложно убеждать людей и бороться с дезинформацией.
|
|
|
|
«Проблема дезинформации крайне серьезна, и она никуда не денется, — говорит Бора. — Эффективность борьбы с дезинформацией зависит от множества факторов, например от того, как вы преподносите точную информацию. Сочувственный тон часто работает лучше, чем снисходительный. Также имеют значение раса, пол и другие факторы. В конечном счете мы пытаемся изучать людей, а люди — удивительно сложные существа».
|
|
|
|
Источник
|
