O instanță olandeză interzice chatbotului Grok să genereze imagini nud false și aplică amenzi zilnice de 100.000 de euro / Un judecător afirmă că nu este clar dacă modificările aduse de platforma X a lui Elon Musk au fost eficiente

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

Joi, un tribunal din Amsterdam a ordonat companiei care deține chatbotul Grok să înceteze generarea de imagini nud fără consimțământ și de materiale cu abuz sexual asupra copiilor, scrie Politico.

Compania lui Elon Musk, xAI, care deține chatbotul cu inteligență artificială, este obligată să plătească daune de 100.000 de euro pe zi pentru fiecare zi în care nu se conformează, până la o sumă maximă de 10 milioane de euro.

Judecătorul olandez a declarat că generarea și difuzarea de imagini sexualizate sunt interzise „atunci când funcționalitatea de a dezbrăca parțial sau complet persoane este utilizată fără ca aceste persoane să-și dea consimțământul explicit”. Judecătorul a interzis, de asemenea, generarea de imagini „care, conform legislației olandeze, se califică drept material cu abuz sexual asupra copiilor”.

Deși interdicția se aplică doar în Țările de Jos, grupurile care au intentat procesul au afirmat că aceasta ar putea avea repercusiuni mai ample, întrucât Grok nu poate determina unde locuiește un utilizator.

X nu a răspuns la o solicitare de comentarii.

Platforma a luat măsuri pentru a restricționa funcționalitățile în ianuarie, după ce s-a descoperit că Grok genera imagini cu persoane reale în bikini sau nud. Estimările indică faptul că au fost generate aproximativ 3 milioane de imagini în 11 zile.

La momentul respectiv, X a declarat: „Rămânem dedicați transformării X într-o platformă sigură pentru toată lumea și continuăm să avem toleranță zero față de orice formă de exploatare sexuală a copiilor, nuditate fără consimțământ și conținut sexual nedorit.”

Judecătorul a recunoscut că X și xAI au luat o serie de măsuri pentru a contracara răspândirea nudurilor false și a materialelor de abuz sexual asupra copiilor, dar a spus că nu se poate asigura că măsurile luate sunt eficiente.

Cazul a fost intentat de Offlimits, care luptă împotriva abuzului online, și de Fonds Slachtofferhulp, care ajută victimele infracțiunilor. Aceștia au depus o plângere la sfârșitul lunii februarie.

Președintele Offlimits, Robbert Hoving, a calificat hotărârea drept „o veste fantastică”, declarând pentru POLITICO că „tehnologia nu poate fi niciodată motivul pentru care se înregistrează victime”.

Comisia Europeană a lansat o anchetă privind X la sfârșitul lunii ianuarie.

Atât legislatorii din Parlamentul European, cât și țările UE au insistat pentru interzicerea aplicațiilor de nudificare bazate pe IA, ca parte a eforturilor de modificare a normelor UE privind IA. O interdicție ar putea intra în vigoare până în această vară.