Крупный инвестор в области искусственного интеллекта бьет тревогу по поводу настойчивой погони за все более умными машинами, которые, по его мнению, вскоре могут достичь степени божественности. В статье для Financial Times мегаинвестор в области искусственного интеллекта Ян Хогарт вспомнил недавний анекдот, в котором исследователь машинного обучения, с которым он был знаком, сказал ему, что «отныне и впредь» мы находимся на грани разработки Общего искусственного интеллекта (AGI) — признание, которое стало чем-то вроде шока. «Это не универсальная точка зрения», — написал Хогарт, отметив, что «оценки варьируются от десятилетия до полувека и более», прежде чем AGI станет реальностью. Тем не менее, существует противоречие между явными целями компаний, занимающихся искусственным интеллектом, и опасениями экспертов по машинному обучению, не говоря уже о публике, которые понимают эту концепцию. «Если вы думаете, что мы можем оказаться рядом с чем-то настолько потенциально опасным, — сказал я исследователю, — разве вы не должны предупредить людей о том, что происходит?» — рассказал инвестор.
«Он явно боролся с ответственностью, с которой столкнулся, но, как и многие в этой области, казалось, его увлекла скорость прогресса». Как и многие другие родители, Хогарт сказал, что после этой встречи его мысли переключились на четырехлетнего сына. «Размышляя о мире, в котором он может вырасти, я постепенно переходил от шока к гневу», — написал он. «Кажется глубоко неправильным, что последующие решения, потенциально затрагивающие каждую жизнь на Земле, могут приниматься небольшой группой частных компаний без демократического надзора». Задаваясь вопросом, есть ли у «людей, спешащих построить первый настоящий AGI, план замедлить ход и дать высказаться остальному миру», инвестор отметил, что, хотя это похоже на ситуацию «они» против «нас», он должен признать, что он тоже является «частью этого сообщества» как человек, инвестировавший в более чем 50 стартапов в области ИИ. «Трехбуквенная аббревиатура не отражает всю грандиозность того, что представляет собой AGI, поэтому я буду называть его тем, что есть: богоподобным ИИ», — заявил Хогарт. «Сверхразумный компьютер, который обучается и развивается автономно, понимает окружающую среду без необходимости присмотра и может преобразовывать мир вокруг себя».
«Чтобы было ясно, мы еще не здесь», — продолжил Хогарт. «Но природа технологии означает, что чрезвычайно трудно точно предсказать, когда мы доберемся до нее. Богоподобный ИИ может быть силой, находящейся вне нашего контроля или понимания, и силой, которая может привести к устареванию или уничтожению человечества". В то время как инвестор посвятил свою карьеру финансированию и курированию исследований в области ИИ — он даже зашел так далеко, что основал свою собственную венчурную фирму и выпустил ежегодный отчет «Состояние ИИ», — похоже, что-то изменилось, и теперь «соперничество между несколько компаний, создающих богоподобный ИИ, быстро ускорились». «Они еще не знают, как безопасно преследовать свою цель, и у них нет надзора», — размышлял Хогарт. «Они бегут к финишу, не понимая, что находится по ту сторону». Хотя он планирует инвестировать в стартапы, которые будут более ответственно заниматься ИИ, мегафондер ИИ сказал, что он не получил большой поддержки со своими коллегами. «К сожалению, я думаю, что гонка продолжится», — написал Хогарт. «Вероятно, потребуется крупное событие неправильного использования — катастрофа — чтобы разбудить общественность и правительства».
