|
Новый подход к исправлению ошибок ИИ
|
|
|
|
Две статьи коллектива ученых из Великобритании, России и Испании, опубликованных в журнале Physics of Life Reviews, продолжили обсуждение двух важных проблем в теории искусственного интеллекта: как быстро и эффективно исправлять ошибки искусственного интеллекта и чем объясняется эффективность малых нейронных ансамблей в многомерном мозге? Первая статья носит название «Симфония многомерного мозга» (Symphony of high-dimensional brain), вторая – «Непостижимая эффективность малых нейронных ансамблей в многомерном мозге» (The unreasonable effectiveness of small neural ensembles in high-dimensional brain).
|
|
|
|
Суть проблемы авторы видят в геометрии многомерных пространств. Один из участников дискуссии, Р. Куиан Куирога (R. Quian Quiroga) предложил называть предложенный подход – GMT-подходом (по именам Александра Горбаня, главного научного сотрудника лаборатории перспективных методов анализа многомерных данных нижегородского Университета Лобачевского, профессора Университета Лестера (Великобритания), ведущего научного сотрудника той же лаборатории, профессора Университета Лестера (Великобритания) Ивана Тюкина, и старшего научного сотрудника лаборатории нейросетевых технологий Университета Лобачевского, профессора Университета Комплутенсе (Мадрид, Испания) Валерия Макарова).
|
|
|
Как отмечает Александр Горбань, в многомерных пространствах облака данных приобретают неожиданно простые свойства. Даже в больших случайных наборах данных каждая точка с большой вероятностью отделима от всех других точек плоскостью, которая строится по явным формулам. «Это явление стохастической отделимости (stochastic separation) одновременно служит основой и коррекции ошибок искусственного интеллекта, и таких нейрофизиологических феноменов как «бабушкины клетки» (grandmother of concept cells). Так называются отдельные нейроны, селективно реагирующие на предъявление какого-либо образа («бабушки»).
|
|
|
|
Системы искусственного интеллекта ошибаются и будут ошибаться. Человек должен разработать эффективную технологию обработки ошибок искусственного интеллекта или отказаться от использования искусственного интеллекта в важных проектах», – подчеркнул профессор Горбань. Согласно GMT-подходу, если обнаружена ошибка искусственного интеллекта, то ее можно исправить на будущее, отделив простым правилом (плоскостью) ситуацию с ошибкой от прочих ситуаций, где ошибок не было. При этом каскады таких простых корректоров строятся сравнительно легко. Они позволяют исправлять ошибки искусственного интеллекта без переучивания исходной системы, которое требует несравненно больше времени и различных ресурсов.
|
|
|
|
По мнению ученых, «бабушкины клетки легко могут отделить специфический многомерный сигнал от всех остальных без создания сложных и существенно нелинейных правил. Новые модели нейронной памяти в многомерном мозге также предложены профессорами Горбанем, Макаровым и Тюкиным (GMT-модели). В обсуждении GMT-подхода участвовали десять всемирно известных экспертов, результатом этого обсуждения стало доказательство состоятельности GMT-подхода. Модели уже подтверждены реальными приложениями, в которых работает новая технология исправления ошибок. Она исправляет ошибки искусственного интеллекта «на лету» и позволяет системам искусственного интеллекта обучать друг друга. Новые GMT-модели памяти допускают экспериментальную проверку и уже дают неожиданные предсказания. Обсуждение экспертами открывает новые проблемы и горизонты работы.
|
|
|
|
Источник
|
