Meta oferă părinţilor mai mult control asupra conversaţiilor adolescenţilor cu chatboturile AI, după critici privind comportamente nepotrivite

Meta Platforms va permite părinţilor să dezactiveze conversaţiile private ale adolescenţilor cu personajele sale AI, ca parte a unui nou set de măsuri menite să sporească siguranţa minorilor pe platformele sale sociale, după criticile legate de comportamentul ”provocator” al unor chatboturi, transmite Reuters, transmite News.ro.

Compania a precizat că, începând de anul viitor, părinţii vor putea bloca anumite personaje AI, urmări subiectele generale discutate de adolescenţi cu chatboturile şi cu asistentul Meta AI, fără a fi nevoie să dezactiveze complet accesul la inteligenţa artificială.

Noile funcţii vor fi lansate mai întâi pe Instagram, în SUA, Marea Britanie, Canada şi Australia, potrivit unei postări semnate de directorul Instagram, Adam Mosseri, şi directorul AI al Meta, Alexandr Wang.

Meta a mai anunţat că experienţele AI destinate adolescenţilor vor fi adaptate pe baza sistemului de clasificare a filmelor PG-13, pentru a limita expunerea acestora la conţinut nepotrivit. De asemenea, compania foloseşte semnale bazate pe inteligenţă artificială pentru a aplica automat măsuri de protejare a conturilor despre care suspectează că aparţin minorilor, chiar dacă utilizatorii declară că sunt adulţi.

Anchete recente au arătat că unele funcţii de siguranţă de pe Instagram nu funcţionează corespunzător, iar în august Reuters a relatat că regulile interne ale Meta permiteau conversaţii provocatoare între chatboturile AI şi minori.

Compania susţine acum că personajele sale AI sunt programate să nu discute cu adolescenţii despre subiecte precum automutilarea, sinuciderea sau tulburările alimentare.

Luna trecută, OpenAI a introdus la rândul său funcţii de control parental pentru ChatGPT, după ce un proces intentat în SUA a acuzat compania că chatbotul său ar fi oferit instrucţiuni privind metode de sinucidere unui adolescent.