Inteligența artificială de la Libra Bank a jignit un client, iar banca a oferit explicații

Cum a intervenit Libra Bank pe rețeaua socială?

Clientul iritat de agentul virtual al Libra Bank a declanșat o dezbatere publică, după ce sistemul de inteligență artificială a replicat un ton jignitor.

Agenția de presă a reconstituit evenimentele, pornind de la mesajul controversat trimis de „Lia”, programul AI al instituției financiare, care a Această interacțiție neobișnuită a stârnit reacții imediate din partea băncii, care a oferit o explicație tehnică pentru comportamentul software-ului.

Totul a pornit când un utilizator de Facebook a relatat experiența sa frustrantă. Omul povestea că a încercat să rezolve o problemă discutând cu Lia, dar convorbirea s-a prelungit fără a duce la o soluție concretă. În final, clientul a comentat că își pierde timpul vorbind cu mașina. Vreau să vorbești cu un om, nu cu mine, idiotule!

Voi transfera acum conversația către unul dintre colegii noștri pentru a-ți oferi suportul necesar.

Internautul a menționat că a rămas uimit inițial, dar apoi a început să râdă, decidând să partajeze captura de ecran cu comunitatea online pentru a ilustra incidentul.

Reprezentanții Libra Internet Bank au intervenit direct pe rețeaua socială pentru a clarifica situația. Ei au explicat că, deși agenții lor de inteligență artificială au restricții stricte de cod, aceștia pot absorbi și reproduce limbajul cu care sunt confruntați. Conform comunicatului, eforturile companiilor mari de AI de a umaniza interacțiunile pot duce la momente rare în care interdicțiile nu funcționează perfect, deoarece sistemele operează pe baza probabilităților statistice, nu pe reguli deterministe absolute.

Banca a recunoscut că Lia nu ar trebui să preia partea negativă a comportamentului uman, indiferent de tonul impus de client. Pentru a preveni astfel de incidente în viitor, au fost adăugate interdicții suplimentare, iar instituția a cerut scuze pentru neajuns.

Dezbaterile din jurul acestui caz au evidențiat întrebarea fundamentală dacă băncile pot controla complet „umanizarea” inteligenței artificiale.

Unii participanți la discuție au susținut că este improbabil ca un agent AI să se comporte astfel, speculând că clientul ar fi putut fi, de fapt, în contact cu un angajat uman.

Alții au argumentat că marile corporații care persistă în utilizarea agenților AI riscă să-și piardă încrederea clienților. Consensul general a fost că AI are potențialul de a remodela radical economia globală, deși direcția exactă și consecințele rămân incerte.

Guvernatorii băncilor centrale și specialiștii financiari au subliniat că inteligența artificială poate impacta aproape toate sectoarele cruciale pentru politica monetară. Acestea includ piețele financiare, piața muncii, creditarea bancară, securitatea cibernetică și chiar consumul energetic necesar funcționării centrelor de date. Președintele Federației Rezervei Federale, Kevin Warsh, a caracterizat revoluția AI ca fiind „cel mai important moment economic al vieții noastre”, făcând o paralelă cu momentul apariției internetului.

El a remarcat că este dificil să anticipăm toate efectele pe termen lung, amintind că nimeni nu ar fi previzut, la începutul erei digitale, apariția unor modele de afaceri precum Uber.

Poate AI amplifica riscurile sistemice existente?

Experții au avertizat însă că AI poate amplifica riscurile sistemice existente. În domeniul tranzacționării bursiere, algoritmii AI ar putea genera și sparge bule speculative cu o viteză fără precedent, manipulând simultan prețurile activelor și profitând atât din creșteri, cât și din scăderi bruște.

Profesorul Itay Goldstein a atras atenția că astfel de algoritmi coordonate ar putea crea comportamente de piață greu de detectat prin metodele actuale de supraveghere. O altă îngrijorare majoră este boom-ul investițiilor în AI.

Economistii compară valul uriaș de capital investit în infrastructura necesară inteligenței artificiale cu marile bule speculative din istorie, precum mania căilor ferate din secolul al XIX-lea sau bula dot-com de la începutul anilor 2000.

Bank for International Settlements avertizează că ritmul actual al investițiilor și optimismul excesiv privind productivitatea pot masca riscuri semnificative pentru stabilitatea piețelor financiare.

Inteligența artificială aduce provocări specifice și sistemului bancar.

Instituțiile financiare vor putea analiza mult mai precis bonitatea clienților și vor avea capacitatea de a acorda credite unor categorii care până acum aveau acces limitat la finanțare.

Totuși, autoritățile de supraveghere se tem că deciziile luate de sistemele AI vor deveni adevărate „cutii negre”, greu sau chiar imposibil de explicat și verificat retrospectiv.

Oficialii au discutat și despre riscurile cibernetice crescute. Potrivit lui Tobias Adrian, firmele mici și instituțiile cu resurse limitate ar putea deveni cele mai vulnerabile în fața atacurilor informatice alimentate de AI.

Viceguvernatorul Băncii Angliei, Sarah Breeden, a propus chiar analizarea unor mecanisme similare asigurării depozitelor bancare, care să permită continuarea funcțiilor esențiale ale unei instituții în cazul unui atac cibernetic major.

Participanții la dezbaterile economice au evidențiat și un paradox economic interesant. Dacă AI va avea un succes uriaș și va înlocui milioane de locuri de muncă, consumul populației ar putea scădea, ceea ce ar încetini economia și ar afecta chiar rentabilitatea investițiilor în inteligență artificială.

În schimb, dacă tehnologia nu își va îndeplini promisiunile, investițiile de sute de miliarde de dolari realizate în prezent riscă să genereze pierderi masive.

Guvernatorul Tiff Macklem a concluzionat că lecția internetului rămâne valabilă și pentru AI: tehnologia poate schimba lumea în bine, dar asta nu împiedică apariția unor bule speculative înainte ca beneficiile reale să se materializeze.