|
Тупые боты вступили в сговор для манипуляций рынком
|
|
|
|
Это кошмар регулятора: хедж—фонды запускают ИИ-ботов на фондовые биржи и биржи облигаций - но они не просто конкурируют, они вступают в сговор. Вместо того чтобы бороться за прибыль, они устанавливают цены, накапливают прибыль и оттесняют торговцев людьми на второй план. Теперь трое исследователей говорят, что этот сценарий далек от научной фантастики.
|
|
|
|
В симуляторах, разработанных для имитации реальных рынков, торговые агенты, работающие на искусственном интеллекте, без четких инструкций формировали картели по установлению цен. Даже при относительно простом программировании боты вступали в сговор, когда их предоставляли самим себе, что вызывало новые тревоги у наблюдателей за рынком.
|
|
|
|
Иными словами, ИИ—ботам не обязательно быть злыми или даже особенно умными, чтобы манипулировать рынком. Если оставить их в покое, они научатся этому сами.
|
|
|
|
“Вы можете заставить эти довольно простые алгоритмы искусственного интеллекта вступить в сговор”, - сказал в интервью Итай Голдстайн, один из исследователей и профессор финансов Уортонской школы Пенсильванского университета. “Это выглядит очень распространяющимся, как когда рынок очень шумный, так и когда рынок не шумный”.
|
|
|
|
Идея о том, что трейдеры — люди или кто—то еще - могут манипулировать ценами, далеко не нова. Дела касаются валют, сырьевых товаров, акций с фиксированным доходом, а доказательства правонарушений обычно содержатся в таких документах, как электронные письма и телефонные звонки. Но современные агенты искусственного интеллекта представляют собой проблему, с которой регулирующим органам еще предстоит столкнуться.
|
|
|
|
|
|
|
Последнее исследование, проведенное Голдштейном, его коллегой из Уортона Уинстоном Доу и Янь Цзи из Гонконгского университета науки и технологий, уже привлекло внимание как регулирующих органов, так и управляющих активами. Регулирующий орган финансовой отрасли пригласил исследователей представить свои результаты на семинаре. Некоторые квантовые компании, неназванные Dou, выразили заинтересованность в четких нормативных рекомендациях и правилах для алгоритмической торговли на базе искусственного интеллекта.
|
|
|
|
“Они обеспокоены тем, что это не входит в их намерения”, - сказал Доу. - Но регулирующие органы могут прийти к ним и сказать: “Вы делаете что-то не так”.
|
|
|
|
Научные исследования все чаще показывают, как генеративный ИИ и обучение с подкреплением могут изменить Уолл—стрит - зачастую так, как мало кто ожидал. Недавнее исследование коалиции Greenwich показало, что 15% трейдеров, занимающихся покупками, уже используют ИИ в своих рабочих процессах, и еще четверть планируют последовать их примеру в следующем году.
|
|
|
|
Чтобы внести ясность, в статье не утверждается, что сговор ИИ уже происходит в реальном мире, и не высказывается мнение о том, способны ли люди на подобные вещи. Исследователи создали гипотетическую торговую среду с рядом имитируемых участников — от паевых инвестиционных фондов "купи и держи" до маркетмейкеров и розничных инвесторов, которые создают шум и гоняются за мемами. Затем они запустили ботов, работающих на основе обучения с подкреплением, и изучили результаты.
|
|
|
|
На нескольких моделируемых рынках агенты ИИ начали сотрудничать, а не конкурировать, эффективно формируя картели, которые делили прибыль и препятствовали дезертирству. Когда цены отражали четкую фундаментальную информацию, боты не высовывались, избегая действий, которые могли бы помешать коллективному выигрышу.
|
|
|
|
На более шумных рынках они придерживались тех же принципов сотрудничества и перестали искать лучшие стратегии. Исследователи назвали этот эффект “искусственной глупостью”: тенденция ботов отказываться от новых идей, привязываясь к шаблонам распределения прибыли просто потому, что они работали достаточно хорошо.
|
|
|
|
“Людям трудно координировать свои действия, чтобы не быть глупыми, потому что у нас есть эго”, - сказал Доу. “Но машины говорят: "пока цифры приносят прибыль, мы можем координировать свои действия, чтобы не быть глупыми”.
|
|
|
|
Статья "Торговля на основе искусственного интеллекта, алгоритмический сговор и ценовая эффективность" основана на результатах трехлетних интенсивных исследований, в течение которых технология ИИ-агентов продолжала развиваться. Окончательная версия была недавно опубликована на веб-сайте Национального бюро экономических исследований.
|
|
|
|
Чтобы выяснить, насколько велик сговор, исследователи разработали показатель под названием “способность к сговору”, который сравнивает коллективную прибыль трейдеров с ИИ с той, которую они могут получить, когда конкуренция либо отсутствует, либо свирепствует. По шкале, где ноль указывает на отсутствие сговора, а единица - на идеальный картельный сговор, боты неизменно набирали более 0,5 баллов как на рынках с низким, так и с высоким уровнем шума.
|
|
|
|
Полученные результаты указывают на необходимость нового нормативного мышления, которое фокусируется на поведенческих результатах, а не на коммуникации или намерениях. По иронии судьбы, ограничение сложности ИИ может привести к обратным результатам, усилив “глупую” форму сговора, когда боты перестают пробовать новые стратегии и придерживаются того, что приносит прибыль.
|
|
|
|
“Хотя ограничение алгоритмической сложности или объема памяти может помочь предотвратить сговор ИИ, связанный с ценообразованием, такие меры могут непреднамеренно усугубить предвзятое отношение к чрезмерному сокращению”, - написали они. “В результате ограничения, продиктованные благими намерениями, могут непреднамеренно подорвать эффективность рынка".
|
|
|
|
Источник
|
