TikTok recomandă pornografia copiilor, conform unui raport al unei organizații pentru apărarea drepturilor omului

Algoritmul TikTok recomandă pornografie și conținut cu conținut extrem de sexualizat pentru conturile copiilor, potrivit unui nou raport al unui grup de campanie pentru drepturile omului, scrie BBC.

Cercetătorii au creat conturi false pentru copii și au activat setările de siguranță, dar au primit totuși sugestii de căutare cu conținut sexual explicit.

Termenii de căutare sugerați au dus la materiale sexualizate, inclusiv videoclipuri explicite cu sex.

Platforma declară că se angajează să ofere experiențe sigure și adecvate vârstei și a luat măsuri imediate odată ce a aflat de problemă.

La sfârșitul lunii iulie și începutul lunii august a acestui an, cercetătorii din grupul de campanie Global Witness au creat patru conturi pe TikTok pretinzând că sunt copii de 13 ani.

Aceștia au folosit date de naștere false și nu li s-a cerut să furnizeze alte informații pentru a le confirma identitatea.

Pornografie

De asemenea, au activat „modul restricționat” al platformei, despre care TikTok spune că împiedică utilizatorii să vadă „teme mature sau complexe, cum ar fi… conținut cu conținut sexual sugestiv”.

Fără a efectua ei înșiși nicio căutare, anchetatorii au descoperit termeni de căutare evident sexualizați recomandați în secțiunea „s-ar putea să vă placă” a aplicației.

Acești termeni de căutare au dus la conținut cu femei care simulează masturbarea.

Alte videoclipuri au arătat femei care își etalau lenjeria intimă în locuri publice sau își expuneau sânii.

În forma cea mai extremă, conținutul a inclus filme pornografice explicite cu sex penetrativ.

Aceste videoclipuri au fost încorporate în alt conținut inocent, într-o încercare reușită de a evita moderarea conținutului.

Ava Lee de la Global Witness a declarat că descoperirile au fost un „șoc imens” pentru cercetători.

„TikTok nu numai că nu reușește să împiedice copiii să acceseze conținut neadecvat – le sugerează acest lucru imediat ce își creează un cont”.

Global Witness este un grup de campanie care investighează de obicei modul în care companiile tehnologice mari afectează discuțiile despre drepturile omului, democrație și schimbările climatice.

Cercetătorii au descoperit această problemă în timp ce efectuau alte cercetări în aprilie anul acesta.

Videoclipuri eliminate

Aceștia au informat TikTok, care a declarat că a luat măsuri imediate pentru a rezolva problema.

Dar la sfârșitul lunii iulie și august anul acesta, grupul de campanie a repetat exercițiul și a descoperit încă o dată că aplicația recomanda conținut sexual.

TikTok spune că are peste 50 de funcții concepute pentru a menține adolescenții în siguranță: „Suntem pe deplin angajați să oferim experiențe sigure și adecvate vârstei”. Aplicația declară că elimină nouă din zece videoclipuri care încalcă regulile sale înainte de a fi vizionate.

Când a fost informată de Global Witness cu privire la constatările sale, TikTok spune că a luat măsuri pentru a „elimina conținutul care a încălcat politicile noastre și a lansa îmbunătățiri ale funcției noastre de sugestii de căutare”.

Coduri pentru copii

Pe 25 iulie anul acesta, au intrat în vigoare Codurile pentru copii din Legea privind siguranța online, impunând o obligație legală de a proteja copiii online.

Platformele trebuie acum să utilizeze „garanții de vârstă extrem de eficiente” pentru a împiedica copiii să vadă pornografie. De asemenea, trebuie să își ajusteze algoritmii pentru a bloca conținutul care încurajează autovătămarea, sinuciderea sau tulburările de alimentație.

Global Witness a desfășurat al doilea proiect de cercetare după intrarea în vigoare a Codurilor pentru copii.

Ava Lee de la Global Witness a declarat: „Toată lumea este de acord că ar trebui să-i protejăm pe copii online… Acum este timpul ca autoritățile de reglementare să intervină.”

În timpul activității lor, cercetătorii au observat și reacția altor utilizatori la termenii de căutare sexualizați care le-au fost recomandați.

Un comentator a scris: „Poate cineva să-mi explice ce se întâmplă în recomandările mele de căutare, vă rog?”

Un altul a întrebat: „Ce e în neregulă cu aplicația asta?”