Największe amerykańskie banki wykrywają nieautoryzowane działania zewnętrznych agentów AI, którzy uzyskali dostęp do kont internetowych klientów – podał portal Axios. Osoba z branży bankowej potwierdziła, że zdarzały się przypadki, w których klienci banków udostępniali swoje dane logowania oraz hasła zewnętrznym pośrednikom.
Banki zazwyczaj wykrywają takie transakcje i je blokują. Mimo to, jeśli klient sam przekazał swoje dane dostępowe, transakcji takich nie można uznać za nieautoryzowane. Według osoby zaznajomionej ze sprawą, bank Morgan Stanley zablokował zewnętrznym pośrednikom dostęp do swoich platform, choć nie odnotowano przypadków działań nieautoryzowanych lub nieuczciwych agentów opartych na sztucznej inteligencji. Na początku tego miesiąca przedstawiciele najwyższego kierownictwa banków dyskutowali o ryzykach związanych z działaniem agentów opartych na sztucznej inteligencji (AI) w imieniu klientów. Niektórzy z nich ostrzegali, że technologia ta wiąże się ze znacznymi zagrożeniami zarówno dla klientów, jak i samych instytucji bankowych. Jamie Dimon, dyrektor generalny JPMorgan Chase, poinformował na początku października, że największy amerykański bank pracuje nad narzędziami, które pozwolą zarządzać ryzykiem wynikającym z samodzielnego wykonywania zadań przez agentów AI. „Nie pozwolimy, aby jakikolwiek zewnętrzny agent uzyskał dostęp do wnętrza firmy, ponieważ wiąże się to ze zbyt dużym ryzykiem zarówno dla klientów, jak i dla JPMorgan” – zapewnił Dimon. Z kolei Richard Wurster, dyrektor generalny firmy maklerskiej Charles Schwab, również przekazał na początku październik , że jego instytucja blokuje nieautoryzowanych agentów. „Codziennie otrzymuję raport, w którym śledzimy, jak często musieliśmy blokować poszczególnych agentów AI. Zdarza się to rzadko, ponieważ użytkownicy raczej nie korzystają z takich rozwiązań w swoich sprawach finansowych. Blokujemy je, ponieważ chcemy zachować pełną kontrolę nad procesem uwierzytelniania oraz jakością obsługi” – powiedział Wurster. Według przedstawicieli czołowych instytucji finansowych w USA, klienci udostępniają swoje prywatne narzędzia oparte na sztucznej inteligencji – niezweryfikowane przez banki – do obsługi własnych rachunków finansowych. „W wielu przypadkach klienci po prostu przekazują swoją nazwę użytkownika lub hasło agentowi AI, którego bank nie zdążył jeszcze sprawdzić. Jest to działanie niezgodne z regulaminem banku” – wyjaśnia Madison Mills, dziennikarka Axios zajmująca się tematyką sztucznej inteligencji. „W toku naszego dochodzenia natrafiliśmy również na dowody wskazujące, że agenci ci podejmowali na kontach klientów działania, na które nie było żadnego zezwolenia” – dodała. Przykładem takich niezatwierdzonych przez użytkownika działań może być sytuacja, w której sztuczna inteligencja kontaktuje się z bankiem, by złożyć reklamację bez wcześniejszej konsultacji z posiadaczem rachunku. „Dla banków to prawdziwy koszmar związany z aktywnością agentów AI” – podsumowała Mills. Warto jednak zaznaczyć, że agenci ci nie działali w sposób samowolny ani nie dokonywali włamań na konta w celu kradzieży środków. Zazwyczaj po prostu wykonywali polecenia użytkowników, nie posiadając przy tym zgody banku na dokonywanie transakcji w imieniu właściciela rachunku.
