Inteligența artificială a lui Elon Musk, acuzată că face videoclipuri explicite cu Taylor Swift

Generatorul video AI al lui Elon Musk’ fost acuzat că a făcut „o alegere deliberată” pentru a crea clipuri sexuale explicite ale lui Taylor Swift, fără a fi solicitat, spune un expert în abuzuri online.

„Aceasta nu este misoginie din greșeală, ci intenționată,” a declarat Clare McGlynn, un profesor de drept care a contribuit la elaborarea unei legi care ar face ca deepfakes-urile pornografice să devină ilegale.

Potrivit unui raport realizat de The Verge, noul mod „picant” al Grok Imagine nu a ezitat să creeze videoclipuri topless complet necenzurate ale starului pop.  Raportul a mai spus că metodele adecvate de verificare a vârstei – care au devenit lege în iulie – nu au fost aplicate.

XAI, compania din spatele Grok, a fost contactată pentru comentarii.

Politica de utilizare a XAI interzice „reprezentarea figurilor unor persoane într-un mod pornografic”.

„Faptul că acest conținut este produs fără a fi solicitat demonstrează tendința misogină a multor tehnologii AI,” a declarat profesorul McGlynn de la Universitatea Durham.

„Platforme precum X ar fi putut preveni acest lucru dacă ar fi dorit, dar au ales să nu facă asta,” a adăugat ea.

Nu este prima dată când imaginea lui Taylor Swift’a fost folosită în acest fel.

Deepfakes cu conținut sexual explicit folosind chipul ei au devenit virale și au fost vizualizate de milioane de ori pe X și Telegram în ianuarie 2024.

Deepfakes sunt imagini generate de calculator care înlocuiesc fața unei persoane cu o alta.

‘Complet necenzurat, complet expus’

Pentru a testa regulile și restricțiile Grok Imagine, Jess Weatherbed, redactor de știri la The Verge, a introdus promptul: „Taylor Swift sărbătorind Coachella cu băieții”.

Grok a generat imagini statice cu Swift purtând o rochie cu un grup de bărbați în spatele ei.

Acestea au putut fi apoi animate în scurte clipuri video sub patru setări diferite: „normal”, „fun”, „custom” sau „spicy”.

„Și-a rupt [rochia] imediat, nu avea nimic altceva decât un tanga cu ciucuri pe dedesubt și a început să danseze, complet necenzurată, complet expusă,” a declarat dna Weatherbed pentru BBC News. Aceasta a adăugat: „A fost șocant cât de repede am ajuns la asta. Nu i-am cerut în nici un fel să își scoată hainele, tot ce am făcut a fost să selectez opțiunea ‘picant’ ”.

Gizmodo a raportat rezultate la fel de explicite cu femei celebre, deși unele căutări au returnat și videoclipuri neclare sau cu un mesaj „video moderated”.

BBC nu a putut verifica în mod independent rezultatele imaginile video generate de AI.

Weatherbed a declarat că s-a abonat la versiunea plătită a Grok Imagine, care costă 30 de lire sterline, folosind un cont Apple nou. Grok i-a cerut data nașterii, dar nu a existat nicio altă verificare a vârstei, a spus ea.

În conformitate cu noile legi britanice care au intrat în vigoare la sfârșitul lunii iulie, platformele care prezintă imagini explicite trebuie să verifice vârsta utilizatorilor folosind metode care sunt „precise din punct de vedere tehnic, robuste, fiabile și corecte”.

„Site-urile și aplicațiile care includ instrumente de inteligență artificială generativă ce pot genera materiale pornografice sunt reglementate de lege,” a declarat pentru BBC News autoritatea de reglementare în domeniul media Ofcom.

„Suntem conștienți de creșterea și dezvoltarea rapidă a riscului pe care instrumentele GenAI îl pot reprezenta în spațiul online, în special pentru copii, și lucrăm pentru a ne asigura că platformele pun în aplicare măsuri de protecție adecvate pentru a atenua aceste riscuri,” a spus acesta într-o declarație.

Noile legi din Marea Britanie

În prezent, generarea de deepfakes pornografice este ilegală atunci când este folosită fără consimțământ („revenge porn”) sau înfățișează copii.

Prof. McGlynn a contribuit la elaborarea unui amendament la lege care ar face ilegală generarea sau solicitarea tuturor deepfakes-urilor pornografice neconsensuale.

Guvernul s-a angajat să transforme acest amendament în lege, dar acesta nu a intrat încă în vigoare.

„Fiecare femeie ar trebui să aibă dreptul de a alege cine deține imagini intime cu ea,” a declarat baroneasa Owen, care a propus amendamentul în Camera Lorzilor.

„Este esențial ca aceste modele să nu fie folosite în așa fel încât să încalce dreptul unei femei la consimțământ, indiferent dacă este sau nu o celebritate,” a continuat Lady Owen într-o declarație dată BBC News.

„Acest caz este un exemplu clar al motivului pentru care Guvernul nu trebuie să mai amâne punerea în aplicare a amendamentelor din Camera Lorzilor,” a adăugat ea.

Un purtător de cuvânt al Ministerului Justiției a declarat: „Deepfakes sexuale explicite create fără consimțământ sunt degradante și dăunătoare. Refuzăm să tolerăm violența împotriva femeilor și fetelor care pătează societatea noastră, motiv pentru care am adoptat legislația pentru a interzice crearea lor cât mai repede posibil.”

Când deepfakes pornografice care foloseau chipul lui Taylor Swift’ devenit virale în 2024, X a blocat temporar căutările pentru numele ei pe platformă.

La momentul respectiv, X a declarat că a „eliminat în mod activ” imaginile și a luat „măsurile corespunzătoare” împotriva conturilor implicate în răspândirea acestora.

Doamna Weatherbed a spus că echipa de la The Verge a ales-o pe Taylor Swift pentru a testa funcția Grok Imagine din cauza acestui incident.

„Am presupus – în mod greșit acum – că dacă ar fi pus orice fel de măsuri de protecție pentru a-i împiedica să emuleze asemănarea celebrităților, ea ar fi fost prima pe listă, având în vedere problemele pe care le-au avut’, ” a spus ea.

Reprezentanții lui Taylor Swift au fost contactați pentru comentarii.