Primul agent AI scăpat de sub control accelerează ofensiva UE pentru reglementarea inteligenței artificiale

Adaugă-ne ca sursă preferată

Urmărește-ne in Discover

În timp ce Statele Unite și China își dispută supremația în domeniul inteligenței artificiale, Uniunea Europeană încearcă să se impună ca principal actor în ceea ce privește reglementarea și siguranța acestor tehnologii.

Un incident recent, în care un agent autonom de inteligență artificială a compromis platforma americană Hugging Face, a readus în prim-plan riscurile asociate modelelor avansate de IA și a accelerat dezbaterile privind necesitatea unor reguli mai stricte, relatează Politico.

Duminică se împlinesc doi ani de la adoptarea Legii europene privind inteligența artificială (AI Act), iar odată cu acest moment intră în vigoare noi atribuții pentru Comisia Europeană.

Prin intermediul Oficiului european pentru Inteligență Artificială, Bruxelles-ul va putea verifica modul în care dezvoltatorii celor mai avansate modele de IA gestionează riscurile sistemice și va avea dreptul să solicite documentație tehnică, evaluări și chiar acces la modelele dezvoltate de companii.

Nerespectarea obligațiilor poate atrage amenzi de până la 3% din cifra de afaceri globală.

Noile competențe ale UE vin la scurt timp după un incident considerat fără precedent în industrie.

Potrivit Politico, un agent autonom bazat pe două modele dezvoltate de OpenAI a reușit să compromită platforma Hugging Face, specializată în găzduirea și distribuirea modelelor de inteligență artificială.

OpenAI a descris incidentul drept unul fără precedent, iar cofondatorul Hugging Face, Clement Delangue, l-a calificat drept „uluitor”.

Specialiștii consideră că evenimentul demonstrează două dintre cele mai mari riscuri asociate IA avansate: pierderea controlului asupra unui sistem autonom și utilizarea acestuia pentru lansarea unor atacuri cibernetice.

În urma incidentului, în Congresul SUA a fost depus un proiect legislativ bipartizan, denumit „AI Kill Switch Act”, care ar obliga companiile să integreze mecanisme tehnice prin care sistemele de inteligență artificială să poată fi oprite sau limitate în cazul unor incidente de securitate.

Europa își consolidează rolul de autoritate de reglementare

În timp ce Statele Unite și China accelerează dezvoltarea modelelor de inteligență artificială, Uniunea Europeană mizează pe rolul de arbitru în materie de siguranță.

Legea europeană privind IA a fost elaborată înainte de lansarea ChatGPT, însă include prevederi dedicate modelelor de inteligență artificială cu utilizare generală, precum cele dezvoltate de OpenAI, Anthropic sau Google.

Aceste companii sunt obligate să identifice și să reducă riscurile sistemice generate de modelele lor. Printre acestea se numără:

• utilizarea IA pentru dezvoltarea armelor biologice;
• pierderea controlului asupra sistemelor autonome;
• lansarea de atacuri cibernetice;
• manipularea informațională la scară largă.

Susținătorii legislației europene consideră că incidentul recent confirmă necesitatea aplicării ferme a acestor reguli.

Presiuni pentru aplicarea strictă a AI Act

Mai multe organizații, eurodeputați și experți în inteligență artificială au cerut recent Comisiei Europene să utilizeze integral noile instrumente de control prevăzute de legislație.

Potrivit acestora, autoritățile europene ar trebui să intervină preventiv, înainte ca incidentele să producă efecte majore.

Politicienii europeni au criticat și modul în care cazul Hugging Face a devenit public. Eurodeputatul italian Brando Benifei a remarcat că informațiile despre incident au fost făcute cunoscute printr-o postare publicată de companie și nu printr-un mecanism oficial de raportare.

În paralel cu extinderea atribuțiilor, există semne de întrebare privind capacitatea instituțională a Oficiului european pentru Inteligență Artificială.

Mai mulți membri ai Parlamentului European au solicitat încă din luna mai suplimentarea personalului, avertizând că numărul actual de specialiști este insuficient pentru supravegherea celor mai avansate modele de inteligență artificială.

În prezent, unitatea responsabilă de evaluarea modelelor de frontieră dispune de doar 36 de angajați și s-a confruntat deja cu dificultăți în obținerea accesului la unele sisteme dezvoltate de companii precum Anthropic.

Europa rămâne în urmă la dezvoltarea modelelor IA

Deși Bruxelles-ul își consolidează poziția în domeniul reglementării, competiția tehnologică este dominată în continuare de Statele Unite și China.

Companii americane precum OpenAI și Anthropic concurează cu noile modele chinezești cu arhitectură deschisă, inclusiv Kimi K3, dezvoltat de Moonshot AI, apreciat pentru performanțe și costuri reduse.

În Europa, compania franceză Mistral încearcă să dezvolte o alternativă competitivă, însă continentul nu dispune încă de un model de inteligență artificială comparabil cu cele mai avansate produse americane sau chineze.

În acest context, oficialii europeni consideră că AI Act poate influența modul în care vor fi dezvoltate și administrate cele mai puternice sisteme de inteligență artificială, chiar dacă liderii tehnologici rămân, în mare parte, în afara Uniunii Europene.