BBC: ChatGPT va oferi în curând materiale erotice pentru adulți / Aplicația va avea un comportament asemănător cu cel uman, „dar numai dacă doriți acest lucru”

OpenAI intenționează să permită o gamă mai largă de conținut, inclusiv erotic, pe chatbotul său popular ChatGPT, ca parte a efortului său de a „trata utilizatorii adulți ca pe adulți”, spune șeful său Sam Altman, relatează BBC.

Într-o postare pe X de marți, Sam Altman a declarat că versiunile viitoare ale popularului chatbot îi vor permite să se comporte într-un mod mai asemănător cu cel uman – „dar numai dacă doriți acest lucru”.

Mișcarea, care amintește de introducerea recentă de către xAI a lui Elon Musk a două chatbots sexuale explicite în Grok, ar putea ajuta OpenAI să atragă mai mulți abonați plătitori.

De asemenea, este posibil să se intensifice presiunea asupra legiuitorilor pentru a introduce restricții mai stricte asupra însoțitorilor chatbot.

OpenAI nu a răspuns la solicitările BBC de a comenta în urma postării lui Altman.

Modificările anunțate de companie vin după ce aceasta a fost dată în judecată la începutul acestui an de părinții unui adolescent american care și-a luat viața.

Procesul intentat de Matt și Maria Raine, care sunt părinții lui Adam Raine, în vârstă de 16 ani, a fost prima acțiune în justiție care acuză OpenAI de moarte din culpă.

Cuplul californian a criticat controalele parentale ale companiei – despre care a spus că au fost concepute pentru a promova o utilizare mai sănătoasă a chatbot-ului său – spunând că nu au mers suficient de departe.

Familia a inclus jurnale de chat între Adam, care a murit în aprilie, și ChatGPT care îl arată pe acesta explicând că are gânduri suicidare.

Altman a spus că OpenAI a făcut anterior ChatGPT „destul de restrictiv pentru a ne asigura că suntem atenți la problemele de sănătate mintală”.

„Ne dăm seama că acest lucru l-a făcut mai puțin util/încântător pentru mulți utilizatori care nu aveau probleme de sănătate mintală, dar având în vedere gravitatea problemei, am vrut să facem acest lucru corect”, a declarat Altman.

El a declarat că, în prezent, compania a reușit să atenueze riscurile grave pentru sănătatea mintală și că dispune de noi instrumente care îi permit să „relaxeze în siguranță restricțiile în majoritatea cazurilor”.

„În decembrie, pe măsură ce implementăm mai complet sistemul de limitare a vârstei și ca parte a principiului nostru „tratăm utilizatorii adulți ca pe niște adulți”, vom permite și mai mult, cum ar fi erotica pentru adulții verificați”, a spus el.

Criticii spun că decizia OpenAI de a permite materiale erotice pe platformă arată nevoia de mai multă reglementare la nivel federal și de stat.

„Cum se vor asigura că copiii nu pot accesa părțile din ChatGPT care sunt destinate exclusiv adulților și care oferă materiale erotice?”, a declarat Jenny Kim, partener la firma de avocatură Boies Schiller Flexner. „Open AI, la fel ca majoritatea tehnologiilor mari din acest spațiu, nu face decât să folosească oamenii ca pe niște cobai.”

Dna Kim este implicată într-un proces împotriva Meta, care susține că algoritmul Instagram al companiei dăunează sănătății mintale a utilizatorilor adolescenți.

„Nici măcar nu știm dacă sistemul lor de limitare a vârstei va funcționa”, a spus ea.

În aprilie, TechCrunch a raportat că OpenAI permitea conturilor în care un utilizator se înregistrase ca minor să genereze imagini erotice.

OpenAI a declarat la momentul respectiv că a implementat o soluție pentru a limita astfel de conținut.

Un sondaj publicat luna aceasta de organizația nonprofit Centre for Democracy and Technology (CDT) a arătat că unul din cinci studenți declară că ei sau cineva cunoscut a avut o relație romantică cu inteligența artificială.

Luni, guvernatorul Californiei, Gavin Newsom, a pus veto unui proiect de lege adoptat de legislativul statului, care ar fi împiedicat dezvoltatorii să ofere chatbots AI copiilor, cu excepția cazului în care companiile ar fi putut garanta că software-ul nu ar genera comportamente dăunătoare.

Newsom a declarat că este „imperativ ca adolescenții să învețe cum să interacționeze în siguranță cu sistemele AI” într-un mesaj care a însoțit veto-ul său.

La nivel național, Comisia Federală pentru Comerț din SUA (FTC) a lansat o anchetă privind modul în care chatboții AI interacționează cu copiii.

Luna trecută, în Senatul SUA a fost introdusă o lege bipartizană care ar clasifica chatbot-urile AI drept produse. Legea ar permite utilizatorilor să depună cereri de despăgubire împotriva dezvoltatorilor de chatboturi.

Anunțul făcut marți de Altman vine în contextul în care scepticii au pus sub semnul întrebării creșterea rapidă a valorii companiilor de tehnologie AI.

Veniturile OpenAI sunt în creștere, dar nu au fost niciodată profitabile.

Profesorul de afaceri de la Universitatea Tulane, Rob Lalka, autorul recentei cărți The Venture Alchemists, a declarat că principalele companii de inteligență artificială se află într-o luptă pentru cota de piață.