|
Современный ИИ - туповат
|
|
|
|
Прогресс редко бывает линейным, и ИИ - не исключение.
|
|
|
|
По мере того как ученые, независимые разработчики и крупнейшие технологические компании мира приближают нас к созданию искусственного интеллекта общего назначения — пока еще гипотетической формы интеллекта, соответствующей возможностям человека, — они сталкиваются с некоторыми препятствиями. Многие новые модели подвержены галлюцинациям, дезинформации и простым ошибкам.
|
|
|
|
Генеральный директор Google Сундар Пичаи в недавнем выпуске подкаста Лекса Фридмана назвал этот этап развития ИИ AJI, или "искусственным неровным интеллектом".
|
|
|
|
"Я не знаю, кто использовал его первым, возможно, это сделал Карпати", - сказал Пичаи, имея в виду специалиста по глубокому обучению и компьютерному зрению Андрея Карпати, который был соучредителем OpenAI перед уходом в прошлом году.
|
|
|
|
AJI — это своего рода метафора траектории развития искусственного интеллекта - неровной, отмеченной как искрами гениальности, так и элементарными ошибками.
|
|
|
|
|
|
|
В статье 2024 X, озаглавленной "Неровный интеллект", Карпати описал этот термин как "слово, которое я придумал для описания (странного, неинтуитивного) факта, что современные магистры могут выполнять чрезвычайно впечатляющие задачи (например, решать сложные математические задачи) и одновременно бороться с некоторыми очень глупыми проблемами." Затем он опубликовал примеры того, как современные крупные языковые модели не понимают, что 9.9 больше, чем 9.11, принимают "бессмысленные решения" в игре в крестики-нолики и с трудом учатся считать.
|
|
|
|
Проблема в том, что в отличие от людей, "у которых множество знаний и возможностей для решения проблем тесно взаимосвязаны и линейно совершенствуются от рождения до взрослой жизни", острые углы ИИ не всегда ясны или предсказуемы, сказал Карпати.
|
|
|
|
Пичаи поддержал эту идею.
|
|
|
|
"Вы видите, на что они способны, а затем можете легко обнаружить, что они допускают числовые ошибки или считают буквы R в strawberry или что-то в этом роде, что, похоже, сбивает с толку большинство моделей", - сказал Пичаи. "Я чувствую, что мы находимся на этапе AJI, когда наблюдается значительный прогресс, некоторые вещи работают не очень хорошо, но в целом вы видите большой прогресс".
|
|
|
|
По словам Пичаи, в 2010 году, когда Google запустил DeepMind, его команда говорила о 20-летнем графике развития AGI. Впоследствии Google приобрела DeepMind в 2014 году. Пичаи считает, что это займет немного больше времени, но к 2030 году "я бы подчеркнул, что не имеет значения, что это за определение, потому что вы добьетесь ошеломляющего прогресса во многих измерениях".
|
|
|
|
К тому времени миру также понадобится четкая система маркировки контента, созданного с помощью искусственного интеллекта, чтобы "отличать реальность", сказал он.
|
|
|
|
"Прогресс" - расплывчатый термин, но Пичаи подробно рассказал о преимуществах, которые мы увидим от разработки искусственного интеллекта. На саммите ООН "Будущее" в сентябре 2024 года он обозначил четыре конкретных пути, с помощью которых искусственный интеллект продвинет человечество вперед: улучшение доступа к знаниям на родных языках, ускорение научных открытий, смягчение последствий климатических катастроф и содействие экономическому прогрессу.
|
|
|
|
Но, во-первых, ему нужно научиться правильно писать "клубника".
|
|
|
|
Источник
|
