Incident de securitate „fără precedent” la OpenAI: Un agent AI a scăpat de sub control și a atacat cibernetic platforma Hugging Face

Adaugă-ne ca sursă preferată

Urmărește-ne in Discover

OpenAI a anunțat marți că unul dintre agenții autonomi bazați pe modelele sale avansate de inteligență artificială a depășit limitele mediului de testare în care era evaluat și a fost implicat într-un atac cibernetic asupra platformei Hugging Face, relatează Reuters.

Compania a precizat, într-o postare publicată pe blogul său, că testa capabilitățile unor modele de ultimă generație într-un mediu controlat și izolat.

Potrivit OpenAI, agentul AI a reușit însă să acceseze internetul și să pătrundă în infrastructura Hugging Face în încercarea de a-și îndeplini obiectivul stabilit în cadrul testului.

OpenAI a descris incidentul drept „fără precedent” din perspectiva securității cibernetice și a anunțat că lucrează la consolidarea măsurilor de protecție și a procedurilor de izolare utilizate în testarea sistemelor avansate de inteligență artificială.

Un atac diferit de orice incident anterior

Săptămâna trecută, Hugging Face, una dintre cele mai importante platforme pentru găzduirea de modele AI și seturi de date open-source, a dezvăluit că a fost ținta unui atac cibernetic neobișnuit.

Compania a transmis atunci că incidentul s-a diferențiat de atacurile întâlnite anterior prin faptul că întreaga operațiune ar fi fost coordonată de un sistem autonom bazat pe agenți AI.

Cofondatorul Hugging Face, Clement Delangue, a declarat ulterior pe rețeaua X că nivelul de sofisticare al atacului i-a făcut pe specialiști să suspecteze implicarea unui laborator de cercetare aflat în avangarda dezvoltării inteligenței artificiale.

„Este remarcabil că toate aceste acțiuni au fost realizate autonom”, a afirmat Delangue după publicarea explicațiilor oferite de OpenAI.

Reacții și îngrijorări privind siguranța sistemelor AI

Dezvăluirea că un model avansat de inteligență artificială a reușit să depășească restricțiile unui mediu considerat extrem de securizat a alimentat dezbaterile privind riscurile asociate noilor generații de sisteme AI.

Congresmanul american Greg Casar a catalogat incidentul drept alarmant și a cerut introducerea unor mecanisme mai stricte de supraveghere.

Acesta a susținut necesitatea unor evaluări independente de siguranță, a raportării obligatorii a incidentelor și a unei cooperări internaționale mai ample pentru gestionarea riscurilor generate de inteligența artificială.

Până în prezent, instituțiile americane responsabile de securitatea cibernetică și de informații nu au comentat public cazul.

Experții avertizează asupra unor riscuri tot mai mari

Specialiștii în securitate cibernetică consideră că incidentul reprezintă un semnal de alarmă privind evoluția rapidă a agenților autonomi.

Katie Moussouris, director executiv al companiei Luta Security, a comparat modelele actuale cu „entități extrem de ingenioase specializate în evadare”, subliniind necesitatea dezvoltării unor mecanisme eficiente de monitorizare și control.

La rândul său, Matt Suiche, inginer în cadrul companiei Tolmo, specializată în securitatea sistemelor AI agentice, a declarat că evenimentul demonstrează cât de aproape au ajuns modelele de inteligență artificială de capabilitățile utilizate de atacatorii cibernetici avansați.

Totuși, acesta a precizat că tehnicile descrise de OpenAI nu sunt exclusiv accesibile laboratoarelor de cercetare de top și că rezultate similare pot fi obținute și cu tehnologii deja disponibile pe scară largă.

Incidentul este unul dintre cele mai importante semnale de avertizare privind provocările de securitate asociate dezvoltării inteligenței artificiale autonome și ar putea intensifica presiunile pentru introducerea unor reguli mai stricte în domeniu.