Банки США начали ограничивать доступ ИИ-агентов к счетам клиентов

Крупнейшие финансовые гиганты США зафиксировали опасное самоуправство сторонних ИИ-ассистентов внутри личных кабинетов пользователей. Некоторые алгоритмы пытались совершать действия без соответствующих указаний пользователей и звонили в службу поддержки. С подозрительной активностью столкнулись Morgan Stanley, JPMorgan, Bank of America и Citi, передает Axios.

Клиенты сами подключали умных помощников и передавали им логины с паролями для управления бюджетом. Однако подобная практика противоречит правилам большинства банков, требующих, чтобы клиенты самостоятельно входили в свои аккаунты. Некоторые цифровые агенты принялись совершать действия, которые не соответствовали инструкциям пользователей.

Финансисты признают: системы безопасности часто не могут понять, кто отправляет запрос к счету — реальный человек или программа. Отличить одобренные клиентом шаги от произвола робота оказалось невероятно сложно. Поэтому финансовые организации начали ограничивать доступ внешних алгоритмов к своим платформам.

Представитель Morgan Stanley уточнил журналистам, что инцидентов с прямым взломом систем банка со стороны неконтролируемого ИИ зафиксировано не было. Таких же жестких ограничений придерживаются партнеры из Citi, JPMorgan и Bank of America.

В дальнейшем финансисты планируют оставить искусственному интеллекту только просмотр информации о счетах без права совершать операции. Программам хотят оставить лишь функцию просмотра баланса и трат для финансовой аналитики. Это позволит клиентам изучать расходы с помощью нейросетей, но исключит риск случайного списания денег.

Прежде финансовый эксперт предупреждал об опасности передачи искусственному интеллекту управления брокерским счётом. Специалисты советовали не давать алгоритмам права на торговлю активами, а ограничиваться аналитическим режимом со строгими денежными лимитами.