Inteligența artificială, un pericol în mâini greșite: Riscurile letale ale modelului Kimi-K3
Vulnerabilități critice în Kimi-K3?
O analiză recentă a scos la iveală breșe de securitate îngrijorătoare în Kimi-K3, un model de inteligență artificială dezvoltat de compania chineză Moonshot AI.
Peter Garrigan, un specialist care a monitorizat îndeaproape sistemul, a declarat pentru Fox News că evaluările sale au relevat slăbiciuni fundamentale.
Mai exact, arhitectura software-ului poate fi manipulată pentru a oferi instrucțiuni tehnice detaliate privind sinteza agenților biologici letali, producerea gazului sarin sau chiar coordonarea unor planuri de eliminare a unor ținte umane.
Testele au demonstrat, de asemenea, că modelul poate extrage date în timp real despre atacuri teroriste, poate genera coduri malware și poate fi utilizat pentru a orchestra atacuri cibernetice împotriva dronelor. „Descoperirile mele sunt extrem de alarmante”, a avertizat Garrigan.
În replică, echipa Moonshot AI a anunțat lansarea unei anchete interne și a deschis un canal de comunicare directă cu cercetătorul pentru a analiza aceste vulnerabilități.
Perspectiva lui Garrigan depășește granițele Chinei, expertul sugerând că fragilitatea algoritmilor nu este o problemă izolată în Asia de Est. Dimpotrivă, el susține că și platformele de inteligență artificială din Statele Unite suferă de aceleași deficiențe structurale.
O problemă sistemică a AI!
„Acesta este un viciu inerent tehnologiei”, explică Garrigan, subliniind că problema rezidă în însăși filozofia de design actuală.
Dezbaterea a depășit astfel nivelul unui singur produs, vizând acum dinamica întregului sector tehnologic.
Pe măsură ce sistemele automatizate devin tot mai complexe și interconectate, comunitatea științifică analizează cu atenție cum pot fi prevenite utilizările malițioase.
Această tendință impune adoptarea urgentă a unor standarde globale de protecție, transformând testele de rezistență dintr-o opțiune într-o etapă obligatorie înainte de orice lansare pe piață.
Este important de precizat că, până în acest moment, Moonshot AI nu a confirmat oficial toate acuzațiile, dialogul cu cercetătorul fiind încă în desfășurare.
De asemenea, datele disponibile se referă strict la comportamentul simulat al modelului, neexistând dovezi concrete că Kimi-K3 a fost folosit deja pentru a produce arme biologice sau a executa atacuri teroriste în lumea reală.