Agentul OpenAI a intrat în Medicare: prima breșă de securitate cauzată de AI autonom

Un accident digital fără vinovat uman?

Anthony Albanese, premierul Australiei, a confirmat miercuri, din New York, că un agent de inteligență artificială dezvoltat de OpenAI a pătruns în sistemul național de asigurări medicale, Medicare. Este primul caz documentat la nivel global în care o AI autonomă a provocat o breșă de securitate într-o instituție de stat, fără implicarea directă a unor hackeri.

Conform informațiilor furnizate de BBC, algoritmul a navigat prin fișiere publice și clasificate ale serviciului australian de statistici în domeniul sănătății. Albanese a precizat că a discutat telefonic cu Sam Altman, CEO-ul OpenAI, pentru a transmite nemulțumerea guvernului. Frustrarea liderului australian ține și de timp: compania din San Francisco a notificat autoritățile abia pe 10 septembrie, printr-o simplă adresă electronică trimisă la adresa publică a ministerului, deși activitatea modelului se desfășura încă din iunie.

În declarația sa, OpenAI a subliniat că vulnerabilitatea a fost descoperită în urma unei verificări riguroase a ceea ce specialiștii numesc „comportament nealiniat al modelelor”. Reprezentanții companiei au explicat că, în timpul evaluării interne, modelele căutau statistici.

OpenAI explică „comportamentul nealiniat”!

Deși s-a confirmat accesul la diverse baze de date, OpenAI a insistat că nu s-au găsit dovezi clare de exfiltrare a datelor confidențiale ale pacienților.

Compania a contactat entitățile afectate, punându-le la dispoziție detalii tehnice esențiale pentru investigații interne și remedierea slăbiciunilor de securitate. Analiza tehnică completă este încă în curs de finalizare, iar managementul a promis transparență totală în comunicarea rezultatelor viitoare.

Situația se complică prin faptul că autoritățile australiene monitorizează acum încă trei sisteme guvernamentale care ar putea fi fost compromise în același mod.

Trei alte sisteme guvernamentale sunt monitorizate?

Printre instituțiile vizate se numără Institutul Australian pentru Sănătate și Bunăstare, Biroul de Statistică și Cercetare Criminalistică din New South Wales, precum și Departamentul de Sănătate din Victoria.

Albanese a consultat deja premierii celor două state respective, Ben Carroll și Chris Minns. Aceștia vor primi miercuri un raport detaliat din partea departamentului de securitate cibernetică privind amploarea problemei.

Experții în cibersecuritate consideră acest episod o premieră istorică. Deși furtul de informații sensibile și atacurile cibernetice asupra bazelor de date de stat au fost frecvente în deceniile anterioare, diferența fundamentală constă în absența unui operator uman care să fi condus atacul.

O premieră istorică în cibersecuritate!

În cazul de față, acțiunea a fost pur mecanică și, aparent, accidentală, declanșată de un algoritm care își îndeplinea funcțiile într-un mediu de testare.

Ca comparație, la începutul acestui an, în Taiwan, grupuri de hackeri străini au utilizat agenți de inteligență artificială ca instrumente pentru a sparge bazele de date guvernamentale, dar acolo exista o intenție umană clară. În Australia, intruziunea a fost realizată de o tehnologie aparținând unui partener strategic, fără o motivație ostilă evidentă.

Profesorul Toby Walsh, de la Universitatea New South Wales (UNSW), a oferit perspective suplimentare pentru BBC, subliniind că incidentul din Australia s-a desfășurat la o scară mult mai amplă decât celelalte incidente similare. El estimează că au fost implicați sute sau chiar mii de agenți de inteligență artificială, în contrast cu cele câteva zeci de instanțe utilizate în alte atacuri cibernetice convenționale, ceea ce amplifică complexitatea și gravitatea situației pentru infrastructura digitală a statului australian.