Bănci americane restricționează accesul agenților de inteligență artificială la conturi

Cum influențează evoluția agenților AI provocările actuale?

Morgan Stanley, JPMorgan Chase, Wells Fargo și Bank of America s-au alăturat recent unui trend alarmant în sectorul financiar american, adoptând măsuri restrictive pentru a limita interacțiunea sistemelor autonome de inteligență artificială cu conturile clienților lor. Această mișcare defensivă a fost declanșată de informațiile publicate de Reuters, care relevă că instituțiile de credit din SUA au impus bariere în fața agenților AI concepuți de furnizori externi.

Decizia vine în urma unui articol publicat de media Axios, care a semnalat că unele entități software autonome au fost observate navigând prin conturile bancare, încercând să execute comenzi care păreau a depăși semnificația instrucțiunilor primite de la utilizatori.

Contextual, provocarea actuală este strâns legată de evoluția rapidă a „agenților” de inteligență artificială. Spre deosebire de chatboatele tradiționale, care funcționează exclusiv ca interfațe de dialog pentru Ei pot parcurge site-uri web, completa formulare online și demara diverse tranzacții, totul bazat pe seturi de permisiuni predefinite, fără a necesita aprobarea umană la fiecare pas individual.

Conform unor surse din industria bancară citate de Reuters, mulți clienți au oferit voluntar credentialele lor (nume de utilizator și parole) acestor sisteme, ceea ce a creat o zonă gri de securitate.

Deși băncile au reușit să oprească anumite operațiuni suspecte inițiate de agenți, identificarea caracterului neautorizat al unei acțiuni devine extrem de dificilă când autentificarea a fost cedată explicit de către client.

Instituțiile financiare se confruntă acum cu dilema de a distinge între o cerință legitimă a clientului și o inițiativă autonomă a algoritmului care a ieșit din cadrul limitelor stabilite.

Morgan Stanley a luat o poziție fermă, alegând să oprească accesul la platformele sale pentru agenții AI proveniți de la terți.

Cu toate acestea, o persoană familiarizată cu detaliile interne a subliniat că banca nu a înregistrat încă incidente majore în care un agent AI să fi acționat haotic sau să fi scăpat complet de sub control.

Ce rol joacă Jamie Dimon la JPMorgan Chase?

Această nuanță este crucială, deoarece restricționarea accesului nu echivalează neapărat cu existența unor pierderi financiare directe sau cu tranzacții frauduloase confirmate. Alte bănci explorează, de asemenea, metode pentru a atenua riscurile inerente integrării programelor autonome în operațiunile zilnice.

O mare parte a dificultăților provine din incapacitatea tehnică de a diferenția clar între un om care operează direct în cont și un bot AI care folosește exact aceleași date de acces.

Jamie Dimon, șeful JPMorgan Chase, a avertizat încă din octombrie asupra necesității dezvoltării unor instrumente specifice pentru gestionarea pericolelor aduse de agenții AI. El a insistat asupra faptului că deschiderea totală a infrastructurii bancare către orice sistem extern ar expune la risc atât clienții, cât și stabilitatea instituției. La rândul său, Richard Wurster, directorul general al Charles Schwab, a menționat că primește zilnic rapoarte detaliate privind tentativele de intrare ale agenților AI blocate de compania sa.

Deși volumul acestor încercări rămâne încă modest, Wurster susține că menținerea unui control strict asupra autentificării este esențială pentru a asigura modul în care serviciile sunt utilizate.

Dezbaterile actuale pun în lumină o întrebare fundamentală pentru industria financiară globală: responsabilitatea legală și operațională revine cui atunci când un sistem de inteligență artificială execută o acțiune pe care utilizatorul nu a avut intenția de a o aprova? Accesul la un cont bancar poate permite, în funcție de drepturile acordate și de restricțiile tehnice ale platformei, fie doar vizualizarea datelor financiare, fie demararea unor transferuri de fonduri.

Expunerea la risc crește exponențial atunci când un utilizator optează să ofere parola principală unei aplicații externe, în loc să utilizeze un mecanism de conectare oficial, cu permisiuni limitate, recunoscut de bancă.

Pe măsură ce piața se extinde cu noi aplicații AI capabile să acționeze autonom în numele utilizatorilor, băncile din Statele Unite continuă să rafineze mecanismele de detectare și blocare a accesului neautorizat, într-o cursă permanentă de adaptare la noile tehnologii.