Modelul AI Mythos de la Anthropic a identificat vulnerabilități în sisteme clasificate ale SUA în doar câteva ore

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

Un model de inteligență artificială dezvoltat de compania americană Anthropic a reușit să identifice vulnerabilități în sisteme informatice clasificate ale guvernului SUA în doar câteva ore, potrivit unor oficiali citați de Euronews.

Rezultatele au fost obținute în cadrul unor teste de securitate desfășurate împreună cu agenții americane de informații, într-un exercițiu care ridică noi întrebări despre ritmul accelerat al evoluției AI în zona securității cibernetice.

Modelul, denumit „Mythos” și dezvoltat de Anthropic, a fost utilizat într-o serie de simulări menite să evalueze capacitatea sistemelor avansate de inteligență artificială de a identifica puncte slabe în infrastructuri digitale sensibile.

Un oficial american a precizat că descoperirea vulnerabilităților nu implică automat și exploatarea lor, însă viteza cu care AI a reușit să le detecteze a atras atenția experților în securitate.

„A intrat în aproape toate sistemele clasificate”

Subiectul a fost adus și în atenția Senatului SUA, unde senatorul democrat Mark Warner a făcut referire la rezultatele testelor în cadrul unei audieri dedicate securității cibernetice. Potrivit acestuia, informațiile furnizate de Agenția Națională de Securitate (NSA) și de Comandamentul Cibernetic american arată că sistemul testat ar fi reușit să „pătrundă în aproape toate sistemele clasificate analizate, nu în săptămâni, ci în ore”.

Afirmația a alimentat îngrijorările privind capacitatea noilor modele AI de a automatiza procese care, în mod tradițional, necesitau echipe întregi de specialiști în securitate informatică.

Exercițiile au făcut parte din inițiativa „Project Glasswing”, lansată de Anthropic pentru a evalua impactul modelelor AI de ultimă generație asupra securității naționale, economiei și infrastructurii critice. Obiectivul programului este de a înțelege atât potențialul defensiv, cât și riscurile asociate utilizării acestor tehnologii în medii sensibile.

În paralel, relația dintre Anthropic și administrația americană a devenit mai tensionată în ultimele luni. Deși compania colaborează cu autoritățile în domeniul securității, aceasta și-a exprimat îngrijorarea cu privire la posibila utilizare militară a modelelor sale avansate.

În același timp, Washingtonul ar fi impus restricții privind accesul la anumite sisteme AI dezvoltate de companie, inclusiv limitarea utilizării de către cetățeni străini a modelelor „Fable 5” și „Mythos 5”.

Dezbatere în industrie

Măsurile au generat reacții în comunitatea tehnologică. Peste 100 de experți în securitate cibernetică și reprezentanți ai industriei au semnat o scrisoare deschisă în care cer reevaluarea restricțiilor. Aceștia susțin că, deși modelele Anthropic sunt extrem de eficiente în identificarea vulnerabilităților software, astfel de capabilități nu sunt unice în industrie, iar limitarea accesului ar putea afecta eforturile de apărare cibernetică.

În opinia semnatarilor, într-un context global în care competiția pentru dezvoltarea AI avansate se intensifică, restricționarea unor instrumente de securitate ar putea crea dezechilibre strategice.

Un mesaj public al companiei, distribuit pe platforma X, descria modelul „Claude Fable 5” drept un sistem de clasă „Mythos”, considerat cel mai avansat oferit până acum publicului.

Cazul „Mythos” ilustrează astfel schimbarea rapidă a echilibrului dintre inteligența artificială și securitatea cibernetică: de la un instrument folosit preponderent pentru automatizare și generare de conținut, AI devine tot mai mult un actor activ în identificarea și potențialul management al vulnerabilităților din infrastructurile critice.