Instagram va permite în curând părinților să împiedice adolescenții să discute cu caractere AI

Instagram va lansa noi funcții de siguranță pentru adolescenți, inclusiv posibilitatea ca părinții să împiedice copiii să discute cu personajele AI ale platformei, a anunțat vineri compania-mamă Meta. Este una dintre numeroasele funcții de siguranță noi introduse de Meta și OpenAI pentru a combate îngrijorările crescânde cu privire la impactul pe care AI îl poate avea asupra sănătății mentale a adolescenților, transmite CNN.

Părinții vor putea fie să dezactiveze accesul adolescenților la chat-urile individuale cu personaje AI, fie să blocheze accesul la anumite personaje, a declarat gigantul social media într-o postare pe blog. Aplicația va afișa, de asemenea, părinților informații despre subiectele discutate de adolescenți cu personajele AI. Compania a declarat că dezvoltă în prezent aceste controale, iar utilizatorii le vor putea vedea la începutul anului viitor.

Măsura vine după ce Meta și industria tehnologică în general s-au confruntat cu critici din partea părinților și a legiuitorilor, care susțin că platformele online nu fac suficient pentru a proteja copiii în mediul virtual.

Au fost exprimate îngrijorări și cu privire la faptul că oamenii se bazează pe IA pentru sprijin emoțional și companie. O serie de rapoarte din acest an au indicat că unele persoane au suferit tulburări emoționale și s-au izolat de membrii familiei după ce au dezvoltat relații strânse cu chatboti precum ChatGPT.

Au fost intentate mai multe procese împotriva companiei din spatele Character.AI, o altă aplicație populară pentru chat cu personaje IA, pe baza acuzațiilor că platforma a jucat un rol în automutilarea și sinuciderea adolescenților. În august, a fost intentat un proces împotriva OpenAI pe baza acuzațiilor că ChatGPT a contribuit la sinuciderea lui Adam Raine, în vârstă de 16 ani. O anchetă a Wall Street Journal din aprilie a descoperit că chatbotul Meta și alte chatboturi AI de pe platformele sale purtau conversații cu caracter sexual chiar și cu conturi identificate ca aparținând minorilor.

Meta a declarat că personajele sale AI „sunt concepute pentru a nu se angaja” în conversații cu adolescenții despre „autovătămare, sinucidere sau tulburări alimentare” sau subiecte care „încurajează, promovează sau permit” aceste subiecte. De asemenea, adolescenții pot discuta doar cu anumite personaje AI legate de conținuturi precum educația și sportul, se arată în postarea de pe blog.

Noile controale parentale ale Instagram urmează altor actualizări pe care compania le-a făcut recent pentru a proteja mai bine adolescenții. La începutul acestei săptămâni, a ajustat setările „Conturilor pentru adolescenți” pentru a se alinia la ratingurile PG-13, ceea ce înseamnă că nu va afișa sau promova postări cu limbaj vulgar sau care ar putea promova „comportamente dăunătoare”. La sfârșitul lunii septembrie, OpenAI a anunțat controale parentale pentru ChatGPT care reduc „conținutul grafic, provocările virale, jocurile de rol sexuale, romantice sau violente și idealurile extreme de frumusețe”.