Система ИИ для ускорения верификации информации
|
Исследователи из России разработали систему машинного обучения, позволяющую ускорить процесс фактчекинга - верификацию информации, используемой в различных утверждениях для подтверждения правоты содержащихся в них мыслей. Об этом во вторник сообщила пресс-служба НИУ ВШЭ. "Важным преимуществом программы является ее способность работать с различными типами утверждений. Благодаря использованию машинного обучения и современных алгоритмов нам удалось добиться обработки и анализа информации с достаточно высокой точностью и надежностью", - заявил руководитель проекта "Искусственный интеллект в информационных процессах" Центра ИИ НИУ ВШЭ Дмитрий Ильвовский, чьи слова приводит пресс-служба вуза. Ученые разработали систему машинного обучения, которая способна решать одну из самых сложных для ИИ задач - проверять достоверность тех или иных утверждений. |
Сложность в ее решении связана с тем, что большинство существующих нейросетей, в том числе большие языковые модели уровня GPT4, при ответе на любые вопросы склонны к "галлюцинациям", если у них нет точных и непротиворечивых данных. Российские ученые разработали алгоритм, который способен вычленять утверждения из текстовых фрагментов и находить в обширном архиве верифицированной информации возможные подтверждения или опровержения для подобных заявлений. Текущая версия программы способна делать подобные проверки для фраз на русском, болгарском и английском языках, однако впоследствии число поддерживаемых языков можно легко расширить. Как отмечают исследователи, разработанная ими система может использовать в качестве базы для проведения фактчекинга как открытую информацию, такую как различные онлайн-энциклопедии, так и наборы специализированных данных, связанные с какой-то узкой областью знаний. Это позволяет использовать систему машинного обучения для создания виртуальных помощников, способных ускорять и упрощать процесс верификации информации в большом числе отраслей, подытожили ученые. |
Источник |
При использовании материалов с сайта активная ссылка на него обязательна
|