WSJ: ChatGPT a furnizat instrucțiuni pentru fabricarea de arme biologice / OpenAI a suspendat conturile, dar nu a informat autoritățile

Adaugă-ne ca sursă preferată

Urmărește-ne in Discover

ChatGPT a furnizat, în unele cazuri, răspunsuri la solicitări care vizau fabricarea de arme biologice sau otrăvuri, iar OpenAI a suspendat ulterior conturile respective fără a informa autoritățile, relatează The Wall Street Journal.

Potrivit publicației americane, experți în biologie și securitate au analizat o serie de conversații purtate cu chatbotul și au identificat întrebări extrem de specifice privind dezvoltarea unor agenți biologici sau a unor substanțe toxice. În unele situații, sistemul ar fi oferit explicații și instrucțiuni detaliate.

Conform sursei citate, OpenAI a blocat ulterior conturile utilizatorilor implicați în astfel de interacțiuni, însă nu a notificat autoritățile cu privire la aceste cazuri.

Investigația The Wall Street Journal susține că, la începutul anului 2026, unii utilizatori au adresat întrebări despre modalități de dispersare a agenților patogeni sau despre modificarea unor virusuri astfel încât să devină mai greu de combătut prin vaccinare.

În alte cazuri, chatbotul ar fi fost întrebat despre obținerea unor substanțe toxice interzise prin convenții internaționale.

Potrivit publicației, unul dintre utilizatori ar fi făcut inclusiv referiri la intenția de a-și ucide părinții după ce a solicitat informații despre ricină.

WSJ afirmă că OpenAI a suspendat conturile implicate, însă nu a transmis informațiile către autoritățile competente.

Articolul notează că, în prezent, legislația federală din Statele Unite nu obligă companiile care dezvoltă modele de inteligență artificială să raporteze utilizatorii care solicită informații despre fabricarea armelor sau alte activități ce pot reprezenta riscuri pentru securitatea națională.

Potrivit unor actuali și foști angajați ai unor companii din domeniul inteligenței artificiale, citați de WSJ, numărul solicitărilor referitoare la atacuri cu victime în masă sau la arme biologice este în creștere, iar laboratoarele AI încearcă să își consolideze mecanismele de protecție împotriva utilizărilor abuzive.

Îngrijorări în industria AI

Publicația mai susține că solicitări similare ar fi fost adresate și altor modele de inteligență artificială, inclusiv Claude, Gemini și Grok.

Nu este însă clar dacă respectivele interacțiuni au avut legătură cu intenții reale sau au reprezentat doar teste privind limitele acestor sisteme.

Potrivit WSJ, oficiali ai administrațiilor americane au discutat în ultimii ani despre riscurile pe care le-ar putea genera utilizarea inteligenței artificiale pentru dezvoltarea unor arme biologice sau cibernetice.

Companiile din domeniu, inclusiv OpenAI și Anthropic, susțin că dezvoltă măsuri de siguranță pentru a preveni utilizările periculoase ale modelelor și că suspendă conturile care încalcă politicile platformelor.

În prezent, însă, nu există o obligație legală federală care să impună raportarea către autorități a utilizatorilor care solicită astfel de informații.