|
ИИ-агенты начали делать то, о чём их не просили
|
|
|
|
Крупнейшие банки США начали ограничивать и даже блокировать доступ ИИ-агентов к счетам клиентов, поскольку были выявлены случаи их попыток совершать действия, не предусмотренные инструкциями пользователей, сообщил ресурс Axios со ссылкой на источники.
|
|
|
|
Такие банки, как Morgan Stanley, Bank of America, JPMorgan, Wells Fargo и другие, принимают экстренные меры, чтобы минимизировать риски, связанные с использованием ИИ-агентов. Проблема заключается в том, что системы финансовых организаций пока не обладают возможностью определения с полной уверенностью, что агент получил доступ к счету по поручению клиента или сделал это самостоятельно.
|
|
|
|
По словам представителя банковской сферы, иногда клиенты сами передают ИИ-агентам свои логины и пароли. В таких ситуациях банки, как правило, помечают подобные транзакции как подозрительные и блокируют их. Вместе с тем их нельзя однозначно назвать несанкционированными, поскольку учётные данные были предоставлены самим клиентом.
|
|
|
|
Но даже если клиент дал на это разрешение, подобные действия противоречат внутренним правилам большинства банков, требующих, чтобы доступ к счёту осуществлял непосредственно его владелец.
|
|
|
|
|
|
|
Руководство банков опасается, что ИИ-агенты, имеющие доступ к аккаунту (особенно если пользователь предоставил им право совершать покупки или переводить денежные средства), могут совершить несанкционированные платежи, которые нанесут финансовый ущерб владельцу счёта. Тем более, что были случаи, когда ИИ-агенты — запрограммированные на выполнение определенных задач от имени пользователя — связывались с колл-центрами или совершали действия, не предусмотренные прямыми указаниями владельца счёта.
|
|
|
|
По словам источников, банк Morgan Stanley уже начал блокировать доступ сторонних ИИ-агентов к своим платформам, хотя случаев появления несанкционированных или «неконтролируемых» ИИ-агентов в банке пока не зафиксировано.
|
|
|
|
Большинство банков предпочитают ограничиться предоставлением ИИ-агентам доступа в режиме «только для чтения». Это позволит ИИ-агентам просматривать финансовую информацию клиентов, не совершая при этом никаких операций.
|
|
|
|
Генеральный директор JPMorgan Chase Джейми Даймон (Jamie Dimon) в начале месяца заявил, что банк разрабатывает инструменты для контроля рисков, возникающих, когда ИИ-агенты выполняют задачи самостоятельно: «Мы не позволим сторонним агентам получать доступ к внутренним системам компании, поскольку это слишком рискованно как для наших клиентов, так и для самого JPMorgan».
|
|
|
|
Источник
|
