„Un moment Cernobîl”: Cercetătorii avertizează asupra riscului unei „catastrofe globale” provocate de AI

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

Tot mai mulți specialiști din domeniul inteligenței artificiale atrag atenția asupra riscurilor asociate dezvoltării accelerate a acestei tehnologii și avertizează că omenirea trebuie să evite un posibil „moment Cernobîl” al inteligenței artificiale, care ar putea marca un punct de cotitură major în istoria tehnologică, relatează Futurism.

Cercetători din Statele Unite și China au lansat apeluri pentru o cooperare internațională mai strânsă în domeniul AI, pe fondul temerilor că evoluția necontrolată a sistemelor avansate ar putea genera consecințe grave la nivel global.

Printre cei care au tras semnalul de alarmă se numără Stephen Casper, cercetător în informatică la Institutul de Tehnologie din Massachusetts (MIT).

În cadrul unei conferințe dedicate inteligenței artificiale, desfășurată la Beijing, acesta a declarat că există un consens larg în comunitatea științifică privind necesitatea evitării unui incident major care să afecteze încrederea publicului în această tehnologie.

„Un lucru asupra căruia aproape toată lumea din domeniul inteligenței artificiale poate fi de acord în acest moment este că inteligența artificială nu are nevoie de un moment Cernobîl”, a afirmat Casper, citat de revista Wired.

Deși cercetătorul nu a detaliat comparația, referirea la accidentul nuclear de la Cernobîl sugerează temerea că un eveniment grav asociat AI ar putea schimba radical percepția publică și ar putea determina restricții severe asupra dezvoltării acestei tehnologii, așa cum s-a întâmplat în cazul energiei nucleare după dezastrul din 1986.

De la șomaj în masă la atacuri cibernetice

În ultimii ani, experții au analizat numeroase scenarii privind potențialele riscuri generate de inteligența artificială.

Printre acestea se numără posibilitatea ca sistemele AI să preia anumite decizii critice fără control uman adecvat, impactul asupra pieței muncii și apariția unui val masiv de automatizare care ar putea elimina milioane de locuri de muncă.

Totodată, cercetătorii sunt preocupați de utilizarea inteligenței artificiale în domeniul securității cibernetice.

Specialiștii avertizează că modelele avansate ar putea fi exploatate pentru lansarea unor atacuri informatice complexe sau ar putea automatiza activități care până acum necesitau intervenție umană.

Un exemplu invocat frecvent este decizia companiei Anthropic de a nu lansa public modelul său de inteligență artificială Claude Mythos.

Potrivit unor evaluări interne, sistemul ar fi demonstrat capacități care i-ar permite să identifice și să exploateze vulnerabilități într-o gamă largă de sisteme informatice și browsere web.

În acest context, cercetătorii susțin că dezvoltarea inteligenței artificiale trebuie însoțită de reguli internaționale clare și de mecanisme eficiente de control, pentru a reduce riscul unor incidente cu impact global.