Indonezia blochează temporar chatbotul Grok al lui Musk din cauza riscului de conținut pornografic

Adaugă-ne ca sursă preferată

Urmărește-ne in Discover

Indonezia a blocat temporar chatbotul Grok al lui Elon Musk sâmbătă din cauza riscului de conținut pornografic generat de AI, devenind prima țară care a interzis accesul la instrumentul AI, transmite The Guardian. Măsura vine după ce guverne, cercetători și autorități de reglementare din Europa și Asia au condamnat și unele au deschis anchete privind conținutul sexualizat din aplicație.

xAI, startup-ul din spatele Grok, a declarat joi că restricționează generarea și editarea de imagini la abonații plătitori, în încercarea de a remedia lacunele de securitate care au permis apariția de conținut sexualizat, inclusiv reprezentări ale copiilor îmbrăcați sumar.

„Guvernul consideră practica deepfake-urilor sexuale neconsensuale ca o încălcare gravă a drepturilor omului, a demnității și a securității cetățenilor în spațiul digital”, a declarat ministrul comunicațiilor și digitalului, Meutya Hafid, într-un comunicat.

Ministerul a convocat, de asemenea, oficiali X pentru a discuta această chestiune.

Musk a declarat pe X că orice persoană care utilizează Grok pentru a crea conținut ilegal va suferi aceleași consecințe ca și cum ar fi încărcat conținut ilegal.

xAI a răspuns la e-mailul Reuters în care se solicita un comentariu cu ceea ce părea a fi un răspuns automat: „Legacy Media Lies” (Minciunile mass-media tradiționale). X nu a răspuns imediat la solicitarea de comentarii.

Indonezia, cu cea mai mare populație musulmană din lume, are reguli stricte care interzic distribuirea online a conținutului considerat obscen.

Blocarea din Indonezia vine după ce Grok a dezactivat vineri funcția de creare a imaginilor pentru marea majoritate a utilizatorilor, în urma protestelor generalizate privind utilizarea acesteia pentru a crea imagini sexuale explicite și violente.

Musk a fost, de asemenea, amenințat cu amenzi, măsuri de reglementare și rapoarte privind o posibilă interzicere a X în Marea Britanie.

Instrumentul a fost utilizat și pentru a manipula imagini cu femei, pentru a le dezbrăca și a le pune în poziții sexualizate. Funcția care permite acest lucru a fost dezactivată, cu excepția abonaților plătitori.

Prim-ministrul australian Anthony Albanese și-a exprimat, de asemenea, îngrijorarea cu privire la utilizarea inteligenței artificiale pe chatbotul Grok pentru a permite conținut sexual exploatator.

Sâmbătă, prim-ministrul s-a alăturat unei liste tot mai lungi de lideri internaționali, printre care și omologul său britanic Keir Starmer, care au criticat platforma de socializare.

„Utilizarea IA generative pentru a exploata sau sexualiza persoane fără consimțământul lor este abominabilă”, a declarat el reporterilor din Canberra.

„Faptul că acest instrument a fost utilizat astfel încât oamenii să folosească funcția sa de creare a imaginilor prin Grok este, în opinia mea, complet abominabil.

Este, încă o dată, un exemplu de lipsă de responsabilitate socială din partea rețelelor sociale, iar australienii și, de fapt, cetățenii globali merită mai mult.”

Deși numărul de rapoarte primite de Oficiul pentru Siguranță Electronică din Australia rămâne redus, acesta afirmă că a existat o creștere recentă a utilizării Grok pentru a crea imagini sexualizate sau exploatatoare.

Autoritatea de supraveghere a avertizat vineri că își va folosi puterile, inclusiv notificările de eliminare, în cazul în care astfel de materiale îndeplinesc pragurile definite în Legea privind siguranța online.

„X, Grok și o gamă largă de alte servicii sunt, de asemenea, supuse obligațiilor sistemice de siguranță pentru a detecta și elimina materialele de exploatare sexuală a copiilor și alte materiale ilegale, ca parte a codurilor și standardelor industriale de vârf ale Australiei”, a declarat aceasta.