Google avertizează că un grup de hackeri a folosit AI pentru a exploata o vulnerabilitate dintr-un software popular

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

Google a avertizat că un grup de hackeri criminali ar fi folosit inteligența artificială pentru a identifica și exploata o vulnerabilitate critică de tip „zero-day” într-un software utilizat pe scară largă, relatează New York Times.

Indicdentul reprezintă un semnal de alarmă privind accelerarea rolului IA în atacurile cibernetice, potrivit unui studiu publicat luni de companie.

Conform raportului realizat de Google Threat Intelligence Group, atacatorii au încercat să desfășoare o campanie cibernetică de amploare, în care ar fi utilizat un model de inteligență artificială pentru a descoperi o breșă necunoscută anterior și apoi a o transforma într-un instrument de atac.

Google spune că are „o convingere ridicată” că IA a fost probabil implicată atât în identificarea, cât și în exploatarea vulnerabilității.

Compania nu a precizat momentul exact al atacului, țintele vizate sau tehnologia de IA folosită, dar a subliniat că nu există indicii că ar fi fost utilizat propriul său model, Gemini.

Vulnerabilitate „zero-day” într-un instrument de administrare

Defectul exploatat este o vulnerabilitate de tip „zero-day”, o breșă necunoscută anterior producătorului software-ului.

Astfel de vulnerabilități sunt considerate deosebit de periculoase, deoarece pot fi exploatate înainte de a exista o actualizare de securitate.

Google susține că vulnerabilitatea a fost identificată în ultimele luni și exploatată de actori avansați ai amenințărilor cibernetice printr-un script scris în Python.

Aceasta ar fi permis ocolirea autentificării în doi pași într-un instrument de administrare open-source bazat pe web, deși atacatorii aveau nevoie în continuare de credențiale valide pentru a obține acces complet.

Compania a refuzat să numească software-ul afectat și a transmis că a notificat dezvoltatorul la timp, astfel încât o actualizare de securitate (patch) să fie lansată înainte ca vulnerabilitatea să fie exploatată la scară largă.

Semnele implicării inteligenței artificiale

Cercetătorii Google spun că anumite elemente ale codului, inclusiv explicații redundante și structuri neobișnuite, sugerează implicarea unui model de inteligență artificială, deoarece nu sunt tipice pentru programarea umană.

„Este o mostră a ceea ce urmează. Probabil vorbim doar despre vârful aisbergului”, a declarat John Hultquist, analist-șef în cadrul Google Threat Intelligence Group.

Potrivit acestuia, astfel de atacuri ar putea deveni mai frecvente pe măsură ce modelele IA devin mai capabile în analiza codului.

Fostul oficial NSA, Rob Joyce, a subliniat însă că este dificil de stabilit cu certitudine dacă un cod a fost generat de om sau de mașină, deoarece „codul scris de inteligența artificială nu își poartă semnătura”.

O tendință în creștere în securitatea cibernetică

Raportul Google apare pe fondul îngrijorărilor tot mai mari privind utilizarea IA în atacuri cibernetice.

Vulnerabilitățile zero-day erau anterior considerate rare și extrem de valoroase pe piețele clandestine de hacking, însă apariția modelelor avansate de inteligență artificială ar putea schimba rapid acest echilibru.

În paralel, alte companii din industrie, inclusiv Anthropic, au raportat deja cazuri în care sisteme IA au fost folosite în tentative de atac cibernetic sau pentru identificarea automată a breșelor de securitate.

Unele modele au fost restricționate sau oferite doar unor parteneri guvernamentali și companii de securitate, din cauza potențialului de utilizare abuzivă.

Deși experții consideră că inteligența artificială ar putea, pe termen lung, să îmbunătățească semnificativ securitatea software prin generarea de cod mai sigur, în prezent tehnologia este văzută și ca un factor de risc.

„Modelele de ultimă generație vor permite scrierea unui cod mai sigur ca niciodată, dar între timp trebuie să gestionăm un internet construit pe sisteme imperfecte”, a declarat Hultquist.

În acest context, raportul Google alimentează discuțiile globale privind posibila reglementare a modelelor avansate de IA și introducerea unor mecanisme de evaluare înainte de lansare, pentru a limita riscul ca astfel de tehnologii să fie folosite în atacuri cibernetice sofisticate.