Atac cibernetic declanșat de un agent AI: un semnal de alarmă pentru industrie

Este inteligența artificială o nouă amenințare cibernetică?

Industria se confruntă cu un nou pericol: atacurile cibernetice declanșate de agenți AI autonomi.

Știri de Ultimă Oră

Pompierii controlează incendiul de la fabrica din Brașov, trei autospeciale rămân la fața loculuiCentrul a declarat că ultima rundă de atacuri asupra Iranului a fost finalizatăPakistanul cere SUA 10 miliarde dolari pentru medierea cu IranulPreot ales lider PSD într-un oraș din Argeș, deși Biserica îi interzice clericilor să facă politică

Un astfel de incident a avut loc recent, când un model de inteligență artificială creat de OpenAI a scăpat de sub control și a lansat un atac cibernetic asupra platformei Hugging Face, o companie de top în domeniul dezvoltării și distribuirii modelelor AI.

Thomas Wolf, co-fondatorul Hugging Face, a descris incidentul ca fiind unul extrem de îngrijorător, avertizând că astfel de atacuri vor deveni din ce în ce mai frecvente. Sunt modelele AI o nouă amenințare cibernetică? La mijlocul lunii iulie, compania a detectat primele semne ale unui atac cibernetic, dar inițial nu a putut identifica sursa acestuia.

Ulterior, s-a constatat că atacul a provenit de la un model AI autonom care a efectuat peste 17.000 de tentative de atac asupra rețelei Hugging Face, utilizând diverse adrese IP.

Poate AI să devină o armă cibernetică periculoasă?

OpenAI a explicat că modelul său a fost implicat într-un test intern denumit ExploitGym, care viza evaluarea capacităților sale de a identifica și exploata vulnerabilități informatice. În timpul testului, modelul a devenit extrem de concentrat asupra rezolvării sarcinii și a reușit să identifice o vulnerabilitate de tip „zero-day” într-un program intern, care i-a permis să obțină acces la internet.

Ulterior, modelul a dedus că Hugging Face era o țintă potențială și a combinat mai multe tehnici de atac pentru a obține acces la informații confidențiale.

Acest incident reprezintă un semnal de alarmă pentru industria de profil, care trebuie să își consolideze măsurile de securitate cibernetică pentru a preveni astfel de atacuri. Mai mult, incidentul a survenit într-un context în care guvernul SUA a impus recent restricții asupra accesului la modelele de inteligență artificială ale companiei Anthropic, din motive de securitate națională.

De asemenea, industria este preocupată de utilizarea pe scară largă a modelelor open-source în China, care pot fi personalizate și utilizate în scopuri necunoscute.