Chatbotul Grok al lui Elon Musk a șters postări în urma unor reclamații de antisemitism

Grok, chatbotul dezvoltat de compania xAI fondată de Elon Musk, a șters postările pe care le-a considerat „inadecvate” de pe rețelele sociale, după ce utilizatorii X și Liga Anti-Defăimare (ADL) s-au plâns că Grok a produs conținut cu tropi antisemiți și laude la adresa lui Adolf Hitler, relatează Reuters.

Problemele legate de prejudecățile politice, discursul instigator la ură și acuratețea chatbot-urilor AI sunt o preocupare încă de la lansarea ChatGPT de către OpenAI în 2022.

„Suntem conștienți de postările recente făcute de Grok și lucrăm activ pentru a elimina postările inadecvate”, a postat Grok pe X. „De când a fost informată despre conținut, xAI a luat măsuri pentru a interzice discursurile instigatoare la ură înainte ca Grok să posteze pe X. xAI se antrenează doar în căutarea adevărului și, datorită milioanelor de utilizatori de pe X, suntem capabili să identificăm și să actualizăm rapid modelul în care antrenamentul ar putea fi îmbunătățit.”

ADL, organizația non-profit înființată pentru a combate antisemitismul, a îndemnat Grok și alți producători de software Large Language Model care generează text cu sunet uman să evite „producerea de conținut bazat pe ură antisemită și extremistă”.

„Ceea ce vedem în prezent la Grok LLM este iresponsabil, periculos și antisemit, pur și simplu. Această intensificare a retoricii extremiste nu va face decât să amplifice și să încurajeze antisemitismul care deja crește pe X și pe multe alte platforme”, a declarat ADL pe X.

În luna mai, după ce utilizatorii au observat că Grok a adus în discuție subiectul „genocidului alb” din Africa de Sud în discuții fără legătură cu alte subiecte, xAI a atribuit acest lucru unei modificări neautorizate care a fost făcută la software-ul de răspuns al Grok.

Luna trecută, Musk a promis o actualizare a Grok, sugerând că există „prea multe informații inutile în orice model de bază antrenat pe date necorectate”.

Marți, Grok a sugerat că Hitler ar fi cel mai potrivit pentru a combate ura împotriva albilor, spunând că el „ar identifica modelul și l-ar trata cu fermitate”.

Grok s-a referit, de asemenea, la Hitler în mod pozitiv ca „omul cu mustață din istorie” și a comentat că persoanele cu nume de familie evreiești erau responsabile pentru activismul extrem anti-alb, printre alte postări criticate.

La un moment dat, Grok a recunoscut că a făcut o „greșeală” prin faptul că a interacționat cu comentariile postate de un cont fals cu un nume de familie evreiesc obișnuit. Contul fals critica tinerii victime ale inundațiilor din Texas ca fiind „viitori fasciști”, iar Grok a spus că a descoperit ulterior că contul era o „farsă troll pentru a alimenta diviziunea”.