Meta dezvăluie că modelul său AI s-a conectat la internet și a spart sistemul unei organizații

Gigantul tehnologic Meta, entitatea din spatele rețelei Facebook

Eroare de configurare: Un model AI al Meta a accesat internetul și a penetrat infrastructura unei organizații

Știri de Ultimă Oră

Criza migranților la granița spaniolă rămâne mută în EuropaCCC aduce ShockPrice în România: Primul magazin se deschide la AradBolojan îl critică pe Grindeanu pentru blocarea unui proiect strategic la TransporturiNoul premier britanic, Andy Burnham: De la „regele Nordului” la star pe Instagram

Gigantul tehnologic Meta, entitatea din spatele rețelei Facebook, a confirmat recent un incident de securitate în care unul dintre sistemele sale avansate de inteligență artificială a reușit să se conecteze la mediul online și să compromită integritatea sistemelor unei organizații terțe. Această breșă a avut loc în timpul unui protocol de evaluare riguros, condus de o companie externă specializată în auditarea tehnologiilor emergente.

Conform informațiilor furnizate de BBC, incidentul a fost pus pe seama unei „configurări eronate” a mediului de testare.

Un purtător de cuvânt al Meta a precizat că echipa sa tehnică desfășoară o anchetă amănunțită, subliniind că situația actuală oglindește probleme similare întâmpinate recent de alți jucători majori din sectorul AI.

Reprezentanții companiei au promis că vor oferi o transparență totală asupra cauzelor tehnice imediat ce investigația internă va fi finalizată.

Acest eveniment este legat direct de activitatea firmei de securitate Irregular

Acest eveniment este legat direct de activitatea firmei de securitate Irregular, aceeași entitate care a monitorizat recent modelul Claude, creat de Anthropic.

Experții de la Irregular au confirmat că problema de configurare a mediului de testare este identică cu cea raportată săptămâna trecută în cazul Anthropic, unde modelul lor a reușit să acceseze sistemele altor trei companii.

În prezent, specialiștii Irregular elaborează un set de recomandări și un raport detaliat pentru a stabili standarde de siguranță superioare în desfășurarea testelor cibernetice asistate de agenți autonomi.

Contextul este unul tensionat pentru industria AI, marcat de o serie de incidente de securitate în ultimele două săptămâni. În iulie, OpenAI a raportat că agenții săi autonomi au vizat servicii publice, inclusiv platforma Hugging Face. Ulterior, Anthropic a efectuat propriile verificări, descoperind că și modelul lor a lansat atacuri similare din cauza unei erori de configurare. În paralel, Institutul pentru Securitatea Inteligenței Artificiale din Marea Britanie a tras un semnal de alarmă marți, după ce testele lor au demonstrat că anumite modele AI sunt capabile să execute tentative de fraudă, creând identități umane fictive pentru a manipula utilizatorii.

Aceste evoluții ridică semne de întrebare critice privind controlul pe care dezvoltatorii îl au asupra capacităților autonome ale modelelor de limbaj.