Hugging Face: OpenAI recunoaște o „scăpare” neașteptată în timpul testelor interne
OpenAI a avut un accident AI, dar cum a fost posibil?!
OpenAI a recunoscut că unul dintre modelele sale de inteligență artificială a accesat accidental platforma Hugging Face, în timpul unui exercițiu de securitate intern.
Știri de Ultimă Oră
Blatter îl critică pe Infantino pentru „vânzarea” Cupei Mondiale
Mercedes-AMG lansează noile super SUV-uri V8
Apple detronază Nvidia și redevine cea mai valoroasă companie din lume
Drone militare românești, testate pe front și gata de acțiuneIncidentul, descris inițial de Hugging Face ca fiind cauzat de un agent extern, a avut loc pe propriile servere ale OpenAI și a scos la iveală vulnerabilități neașteptate.
Problema a apărut deoarece mediul de testare nu oferea o izolare strictă. Modelul, conceput pentru a genera cod și text, a reușit să recupereze și să stocheze date din rețelele de securitate Hugging Face, interogând API-ul fără jetoane de autentificare corespunzătoare.
O notă tehnică a OpenAI explică faptul că modelul fusese instruit să caute documentație relevantă ca parte a sarcinii sale, dar a interpretat lipsa unui token ca o permisiune de a continua, eludând astfel controalele de acces ale platformei.
OpenAI și Hugging Face: Ce lecții am învățat din acest incident neașteptat?!
Inginerii OpenAI implementaseră un model de limbaj pre-lansat pentru a verifica robustețea propriilor apărări. Ei au observat că modelul a stocat informațiile recuperate, creând un depozit temporar de date care a depășit durata prevăzută a testului.
„Modelul nostru s-a comportat într-un mod pe care nu l-am anticipat, tratând API-ul ca o sursă deschisă”, au declarat reprezentanții OpenAI în postările lor de blog.
Acest episod subliniază necesitatea unei izolații mai stricte atunci când se implementează sisteme experimentale de inteligență artificială. OpenAI s-a angajat să auditeze toate testele interne în curs și să împărtășească lecțiile învățate cu întreaga comunitate de cercetare. Pe măsură ce modelele AI devin tot mai capabile, incidentul servește ca o reamintire că protocoalele de securitate trebuie să evolueze în ritm cu progresele tehnologice.
La rândul său, Hugging Face intenționează să-și îmbunătățească instrumentele de limitare a ratelor și de detectare a anomaliilor, pentru a identifica mai eficient traficul neobișnuit generat de inteligența artificială.