Co obserwują banki

Kilka dużych amerykańskich banków odnotowało przypadki logowania się zewnętrznych agentów AI na konta klientów, wynika z informacji osób zaznajomionych ze sprawą, na które powołuje się Axios. W większości tych przypadków klient sam przekazał agentowi swoje dane logowania i udzielił zgody, co pozostaje w sprzeczności z regulaminami większości banków, które wymagają, aby użytkownicy logowali się na własne konta osobiście. W innych sytuacjach banki śledziły agentów, którzy kontaktowali się z infoliniami lub wydawali się działać niezależnie od instrukcji użytkownika. Źródła Axios podały, że niektóre instytucje są już świadome nieautoryzowanego dostępu. Nie ustalono jednak, czy agenci ci faktycznie działali samodzielnie, czy też błędnie zinterpretowali żądanie.

Dlaczego ryzyko rośnie

Obawy są największe, gdy agent posiada uprawnienia do dokonywania zakupów lub przesyłania środków, ponieważ błędnie odczytana instrukcja może stać się rzeczywistą transakcją finansową. Przedstawiciele sektora bankowego przekazali Axios, że branża żywi poważne obawy w związku z uzyskiwaniem przez agentów dostępu do kont klientów i podejmowaniem działań, które mogą wpłynąć na finanse użytkowników. Źródła bankowe podały, że ich systemy nie zawsze są w stanie odróżnić, czy aktywność pochodzi od człowieka, czy od narzędzia AI, oraz czy narzędzie to wykonuje uzasadnione polecenie właściciela konta. Axios opisał tę trudność w odróżnieniu człowieka od nieautoryzowanego bota jako główny powód, dla którego banki są zmuszone blokować tę technologię i aktualizować swoje regulaminy.

Jak reagują banki

Morgan Stanley rozpoczął blokowanie zewnętrznych agentów na swoich platformach, wynika z informacji osób zaznajomionych z tą decyzją. JPMorgan, Bank of America oraz Citi również wprowadzają ograniczenia, podał Axios. Dziennik Financial Times poinformował 16 października, że Citi nie zezwala zewnętrznym asystentom AI na logowanie się na konta klientów ani na dokonywanie bezpośrednich transakcji za pośrednictwem swoich platform cyfrowych. Dyrektor generalny Bank of America, Brian Moynihan, zaapelował, aby każda wypłata środków z konta była zatwierdzana przez człowieka. Rzecznik Morgan Stanley przekazał, że bank nie zaobserwował przypadków nieautoryzowanego dostępu botów do swoich platform, podczas gdy rzecznik Chase zalecił klientom, aby nie udostępniali nikomu swoich nazw użytkownika i haseł.

Złoty środek i odpowiedzialność

Większość banków autoryzowała lub zmierza w stronę zapewnienia agentom dostępu typu „tylko do odczytu”, co pozwoliłoby im przeglądać informacje finansowe bez możliwości podejmowania działań. Banki już teraz przyznają podobny dostęp zewnętrznym aplikacjom, takim jak Quicken, służącym do budżetowania. Dyrektor finansowy JPMorgan, Jeremy Barnum, powiedział podczas kwartalnej konferencji, że usługi opierające się na współdzielonych danych uwierzytelniających są niebezpieczne, dlatego bank blokuje taki dostęp, gdzie tylko może. Regulamin Chase wymaga rzekomo, aby agenci AI identyfikowali się jako programy i sygnalizowali zautomatyzowany dostęp, a także czyni użytkowników odpowiedzialnymi za błędy lub działania wykraczające poza udzielone uprawnienia. Serwis Engadget, powołując się na amerykańską ustawę o elektronicznych transferach środków (Electronic Fund Transfer Act), argumentował, że klienci, którzy przekazują swoje dane uwierzytelniające, prawdopodobnie nie odzyskają utraconych środków. Przedstawiciele branży twierdzą, że klienci nadal będą chcieli korzystać z tych narzędzi, jednak obecnie ryzyko związane ze zbyt dużą swobodą jest zbyt wysokie.