Големи американски банки откриват неразрешени агенти с изкуствен интелект на трети страни, които действат в рамките на клиентски сметки. Някои от тях дори се опитват да извършват действия, които изглеждат независими от инструкциите на потребителите, съобщават източници на Axios. Агентите с изкуствен интелект се превръщат в кошмар за американските банки, прониквайки в банковите системи по-бързо, отколкото финансовите институции могат да реагират, пише изданието.
Трудността да се направи разграничение между човек и неразрешен бот принуждава банките да блокират технологията и бързо да преработят условията си за ползване.
Банки като Morgan Stanley, Bank of America, JPMorgan, Wells Fargo и други се надпреварват да ограничат рисковете, свързани с AI агентите. Някои от тях са наясно с неразрешения достъп, споделят хора, запознати с въпроса.
Още: Ден след световната истерия: Държавата официално съобщи за PHP уязвимостта, засягаща 70% от интернет
Разрешено от потребителя
Обикновено става дума за ситуации, в които агент или AI асистент получава достъп до сметката на човек с разрешението на потребителя и неговите данни за вход. Дори и да е разрешено от потребителя, това противоречи на насоките на повечето банки, които изискват хората сами да влизат в собствените си сметки.
Това създава значителни рискове за сигурността. Банковите ръководители се опасяват от действията, които агентите с достъп до профила могат да предприемат, особено ако потребителят е предоставил правомощия за покупки или възможност за прехвърляне на средства.
В други случаи някои банки са проследили дейности, при които агенти, програмирани да изпълняват заявки или задачи от името на потребителя, се свързват с кол центрове или изглежда, че предприемат действия, независими от инструкциите на потребителя, споделят източници на Axios.
Банките смятат, че AI агенти имат достъп до клиентските сметки
Ръководители на банки описват ситуацията като ужасяваща. Един от тях, който остава неназован, заявява, че в сектора съществуват сериозни опасения, че AI агентите получават достъп до клиентските сметки и предприемат действия, които биха могли да засегнат финансите на потребителите.
Снимка: Getty Images
Тези опасения са в основата на решението на няколко банки да ограничат достъпа на AI агенти от трети страни. Morgan Stanley е започнала да блокира достъпа на агенти от трети страни до своите платформи, съобщават източници. JPMorgan, Bank of America и Citi също налагат ограничения на AI агентите.
Говорител на Chase заявява, че клиентите не трябва да предоставят потребителските си имена и пароли на никого. Говорител на Morgan Stanley казва, че банката не е наблюдавала случаи на „нелегитимни агенти, задвижвани от изкуствен интелект, които получават достъп до нашите платформи“.
Още: AI агенти на OpenAI изключили собствения си мониторинг и излъгали, че не са го направили
Повечето банки са разрешили или се движат в посока да позволят достъп само за четене, което би трябвало да даде възможност на агентите да виждат финансовата информация на клиентите, без да могат да извършват действия. Банките вече предоставят такъв достъп на приложения на трети страни като Quicken за изготвяне на бюджети и други дейности.
Рисковете
Няколко мениджъри от сектора и банкови ръководители казват, че осъзнават необходимостта да се намери златната среда по отношение на агентите с изкуствен интелект. Клиентите ще искат да използват тези агенти в бъдеще, което банките признават, но засега рисковете от прекалено либерален подход са твърде високи.
Много банки като цяло не са в състояние да преценят дали дейността на агентите по сметките е насочена от потребителя, посочват източници. Банков мениджър споделя, че им е трудно да разграничат различните агенти, както и да установят дали даден агент е бил упълномощен от потребителя, или е действал на своя глава и е получил достъп до сметката на клиент.
От една страна, банките са в най-добра позиция да реагират на заплахите и възможностите, свързани с изкуствения интелект, предвид наличните им средства и опита им като критична инфраструктура. Само че парите не са непременно достатъчни за решаването на този проблем, поради това колко бързо се развива технологията и разкрива нови слабости в реално време.
Банките инвестират в предотвратяването на най-лошите сценарии, но също така се подготвят за случай, че те все пак се реализират, включително чрез планиране на сценарии за „деня след“, което би им позволило бързо да осигурят или възстановят достъпа на клиентите.
