Усомнились во всемогуществе искусственного интеллекта
|
|
Израильские математики доказали, что искусственный интеллект далеко не всегда способен находить закономерности в наборах данных или давать однозначные ответы на любые вопросы. Их выводы были представлены в журнале Nature Machine Intelligence.
|
|
"Это открытие стало абсолютным сюрпризом для нас. Конечно, математики давно знают о существовании ряда принципиально нерешаемых проблем, но мы не ожидали, что нечто подобное появится в простом машинном обучении. Это говорит о том, что между "сжатием" информации и самим принципом обучения существует особая фундаментальная связь", — заявил Амир Йехудайофф (Amir Yehudayoff) из Института Технион в Хайфе (Израиль).
|
|
Современные системы машинного обучения и искусственного интеллекта работают на базе очень простого принципа. Они постепенно учатся "видеть" определенные закономерности и отличать правильные ответы от неправильных, используя обширные базы данных, подготовленные человеком.
|
|
Изначально подобный подход применялся в основном для создания систем распознавания изображений. Впоследствии выяснилось, что его можно применять практически для всего, начиная с "творческих" ИИ, способных самостоятельно рисовать и создавать музыку, и заканчивая машиной AlphaZero, способной учиться без помощи людей и играть в несколько настольных игр, зная лишь их правила.
|
|
Подобные успехи, как отмечает Йехудайофф, заставили программистов, философов и математиков задуматься о том, есть ли границы у подобного метода решения проблем и сможет ли предельно "общий" искусственный интеллект найти закономерность в любом произвольном наборе данных и дать ответ на все возможные вопросы.
|
|
Израильские математики попытались выяснить, так ли это на самом деле, анализируя самые общие версии различных математических проблем, которые сегодня активно решаются при помощи систем машинного обучения.
|
|
Их внимание привлекли те версии искусственного интеллекта, которые пытаются предсказать максимальные значения, используя неполные наборы данных. К примеру, подобные машины пытаются угадать предпочтения посетителей того или иного сайта и подбирают такую рекламу, которая бы была интересной для большинства из них.
|
|
Представив эту проблему в виде набора из нескольких больших и малых множеств, Йехудайофф и его коллеги обнаружили, что она похожа по своему описанию на знаменитую теорему Гёделя. Еще в 1940 году известный австрийский математик Курт Гёдель выяснил, что любая формальная система, в том числе сама математика, является неполной или противоречивой.
|
|
Иными словами, это означает, что для систем машинного обучения, как и для "простых" математиков, существуют проблемы, утверждения и вопросы, которые нельзя ни решить, ни доказать, ни опровергнуть, не выходя за их пределы.
|
|
В данном случае, к примеру, невозможно предсказать, можно ли "натренировать" искусственный интеллект идеально подбирать рекламу, используя знания о предпочтениях лишь небольшого произвольного числа посетителей. В зависимости от того, какие посетители портала попадут в эту выборку, данная проблема одновременно является как решаемой, так и нерешаемой.
|
|
Как подчеркивают ученые, с практической точки зрения это открытие никак не влияет на то, насколько активно будет развиваться искусственный разум в будущем и как хорошо он будет решать практические задачи. С другой стороны, наличие подобных ограничений говорит о том, что создать универсальную "мыслящую" машину, способную решать любые задачи, будет намного сложнее, чем считают ученые сегодня.
|
|
Источник
|