Șeful Google DeepMind cere crearea unei autorități care să testeze modele AI înainte de lansare: Inteligența artificială ar putea ajunge la nivelul omului în următorii ani

Adaugă-ne ca sursă preferată

Urmărește-ne in Discover

Demis Hassabis, directorul Google DeepMind și laureat al Premiului Nobel pentru Chimie în 2024, solicită crearea unei autorități independente care să testeze cele mai avansate modele de inteligență artificială înainte ca acestea să fie lansate public, relatează Le Figaro.

Potrivit acestuia, tehnologia evoluează într-un ritm atât de rapid încât sistemele AI ar putea atinge performanțe comparabile cu cele ale oamenilor în doar câțiva ani.

Într-o intervenție susținută marți, Hassabis a argumentat că dezvoltarea accelerată a inteligenței artificiale impune introducerea unor mecanisme de control și evaluare mai riguroase.

„Atunci când există un nivel atât de mare de incertitudine și mizele sunt atât de ridicate, cea mai bună abordare este să avansăm cu un optimism prudent”, a declarat el.

Propunere pentru o autoritate de supraveghere a AI

Șeful DeepMind propune înființarea unui organism inspirat de Autoritatea de Reglementare a Industriei Financiare din SUA (FINRA), instituție care monitorizează activitatea firmelor de brokeraj.

Noua structură ar urma să fie formată din experți de top în inteligență artificială și să fie finanțată în mare parte de companiile din industrie.

Rolul său ar fi să stabilească standarde de siguranță și performanță pe care modelele AI avansate trebuie să le îndeplinească înainte de a fi puse la dispoziția publicului.

Potrivit lui Hassabis, regulile ar trebui să se aplice tuturor sistemelor de inteligență artificială considerate suficient de puternice, indiferent de țara în care sunt dezvoltate.

Propunerea vine într-un moment în care autoritățile și companiile din sector discută tot mai frecvent despre necesitatea unor reguli mai stricte pentru dezvoltarea inteligenței artificiale.

Recent, Departamentul Comerțului al SUA a restricționat temporar accesul cetățenilor străini și al unor angajați din afara Statelor Unite la două modele dezvoltate de Anthropic – Claude Fable 5 și Mythos 5 – invocând motive de securitate națională. Accesul la aceste sisteme a fost suspendat timp de două săptămâni înainte de a fi reluat gradual.

Și Anthropic susține verificarea modelelor înainte de lansare

Apelul lansat de Demis Hassabis se alătură solicitărilor venite și din partea altor lideri ai industriei.

La începutul lunii iunie, directorul executiv al Anthropic, Dario Amodei, a cerut o implicare mai activă a autorităților americane și a susținut crearea unei agenții federale care să testeze modelele de inteligență artificială înainte de lansarea lor comercială.

Pe fondul progreselor rapide din domeniu, tot mai mulți experți avertizează că apariția unor sisteme AI capabile să rivalizeze cu inteligența umană ar putea avea implicații majore pentru economie, securitate și societate, motiv pentru care cer dezvoltarea unor mecanisme de supraveghere înainte ca tehnologia să atingă un nou nivel de performanță.