Experții îndeamnă la prudență cu privire la utilizarea platformei chineze de inteligență artificială DeepSeek

Experții au îndemnat la prudență în ceea ce privește adoptarea rapidă a platformei chineze de inteligență artificială DeepSeek, citând îngrijorări cu privire la răspândirea de informații eronate și la modul în care statul chinez ar putea exploata datele utilizatorilor, potrivit The Guardian.

Noua inteligență artificială low-cost a șters săptămâna aceasta 1 miliard de dolari din principalul indice bursier al tehnologiei din SUA și a devenit rapid cea mai descărcată aplicație gratuită în Regatul Unit și în SUA. Donald Trump a numit-o un „semnal de alarmă” pentru firmele de tehnologie.

Apariția sa a șocat lumea tehnologiei, demonstrând aparent că poate obține performanțe similare platformelor utilizate pe scară largă, cum ar fi ChatGPT, la o fracțiune din cost.

Michael Wooldridge, profesor de bazele inteligenței artificiale la Universitatea Oxford, a declarat că nu este nerezonabil să se presupună că datele introduse în chatbot ar putea fi partajate cu statul chinez.

El a spus: „Cred că este în regulă să îl descărcați și să îl întrebați despre performanța clubului de fotbal Liverpool sau să discutați despre istoria imperiului roman, dar aș recomanda să puneți ceva sensibil sau personal sau privat pe ele? Categoric nu … Pentru că nu știi unde se duc datele.”

Dame Wendy Hall, membră a organismului consultativ la nivel înalt al Organizației Națiunilor Unite privind inteligența artificială, a declarat pentru The Guardian: „Nu puteți scăpa de faptul că, dacă sunteți o companie chineză de tehnologie care se ocupă de informații, sunteți supuși regulilor guvernului chinez cu privire la ceea ce puteți și nu puteți spune.”

„Ar trebui să fim alarmați”, a declarat Ross Burley, co-fondator al Centrului pentru Reziliența Informației, care este finanțat parțial de guvernele SUA și Regatului Unit. „Am văzut de nenumărate ori cum Beijingul își folosește dominația tehnologică pentru supraveghere, control și coerciție, atât pe plan intern, cât și în străinătate”.

El a spus că, dacă nu este controlată, aceasta ar putea „alimenta campaniile de dezinformare, eroda încrederea publică și consolida narațiunile autoritare în cadrul democrațiilor noastre”.

Purtătorul de cuvânt al prim-ministrului, când a fost întrebat dacă Downing Street ar exclude utilizarea inteligenței artificiale chineze în Whitehall, a spus că nu ar „anticipa modele specifice”. El a declarat că progresele au arătat că Regatul Unit trebuie „să meargă mai departe și mai repede pentru a elimina barierele din calea inovării” în IA.

DeepSeek este o platformă open-source, ceea ce înseamnă că dezvoltatorii de software o pot adapta la propriile scopuri. Aceasta a stârnit speranța unui nou val de inovare în domeniul inteligenței artificiale, care părea să fie dominat de companiile americane de tehnologie care se bazează pe investiții uriașe în microcipuri, centre de date și noi surse de energie.

Wooldridge a declarat: „În cazul în care cineva nu a înțeles mesajul, semnalează destul de puternic că China nu este în urmă în acest domeniu.”

Unele persoane care au testat DeepSeek au constatat că acesta nu răspunde la întrebări pe teme sensibile, cum ar fi masacrul din Piața Tiananmen. Când este întrebat despre statutul Taiwanului, acesta repetă linia Partidului Comunist Chinez conform căreia insula este o parte „inalienabilă” a Chinei.

„Cea mai mare problemă cu inteligența artificială generativă este dezinformarea”, a declarat Hall. „Depinde de datele dintr-un model, de prejudecățile din acele date și de modul în care sunt utilizate. Puteți vedea această problemă cu chatbotul DeepSeek.”

Un utilizator, Azeem Azhar, expert în AI, a întrebat despre evenimentele din Piața Tiananmen și i s-a spus că DeepSeek nu poate oferi informații detaliate și că „acest subiect este extrem de sensibil și adesea cenzurat în multe țări, inclusiv în China”.

Cu toate acestea, AI a explicat apoi că evenimentele au fost „recunoscute pe scară largă ca reprimarea protestelor pro-democrație” și a spus: „Guvernul chinez a răspuns cu o represiune violentă, soldată cu moartea a sute (sau posibil mii) de persoane, inclusiv protestatari și soldați”.

Oamenii folosesc modele de inteligență artificială precum DeepSeek și ChatGPT pentru a-i ajuta să proceseze documente personale sau documente pentru muncă, cum ar fi procesele-verbale ale ședințelor, dar orice lucru încărcat poate fi preluat de proprietarul companiei și folosit pentru instruirea inteligenței artificiale sau în alte scopuri.

DeepSeek are sediul în Hangzhou și precizează clar în politica sa de confidențialitate că informațiile personale pe care le colectează de la utilizatori sunt păstrate „pe servere securizate situate în Republica Populară Chineză”.

DeepSeek afirmă că utilizează datele pentru „a se conforma obligațiilor noastre legale sau în măsura în care este necesar pentru a îndeplini sarcini de interes public sau pentru a proteja interesele vitale ale utilizatorilor noștri și ale altor persoane”.

Legea privind serviciile naționale de informații din China prevede că toate întreprinderile, organizațiile și cetățenii „trebuie să sprijine, să asiste și să coopereze cu eforturile serviciilor naționale de informații”.