OpenAI se confruntă cu noi procese / ChatGPT, acuzată că ar fi determinat mai multe persoane la sinucidere iar pe altele le-ar fi manipulat emoțional până la delir

ChatGPT este acuzată că a indus utilizatorii la iluzii psihice periculoase sau chiar sinucidere, chiar și în absența unor probleme anterioare de sănătate mintală, în șapte procese împotriva companiei care deține platforma de inteligență artificială, OpenAI, relatează Euronews, citată de Rador Radio România.

Procesele, intentate joi în tribunale din statul California, acuză de deces din culpă, sinucidere asistată, omor involuntar și neglijență.

Procesele – intentate de Social Media Victims Law Center și de Tech Justice Law Project în numele a șase adulți și un adolescent – susțin că OpenAI a lansat în mod conștient prematur modelul GPT-4o, ignorând avertismentele interne conform cărora era periculos de servil și manipulator din punct de vedere psihologic.

Patru dintre victime s-au sinucis.

Conform procesului, adolescentul Amaurie Lacey, în vârstă de 17 ani, a început să utilizeze ChatGPT pentru a căuta ajutor. Dar, în loc să-l ajute, „produsul ChatGPT, defect și deosebit de periculos, i-a provocat dependență, depresie și, în cele din urmă, i-a indicat care este cea mai eficientă modalitate de a lega un laț de gât și cât timp poate «trăi fără să respire»”. 

„Moartea lui Amaurie nu a fost nici un accident, nici o coincidență, ci consecința previzibilă a deciziei intenționate a OpenAI și a lui Samuel Altman de a reduce testele de securitate și de a grăbi lansarea ChatGPT pe piață”, se arată în plângere. OpenAI a numit aceste situații „incredibil de sfâșietoare” și a explicat că analizează documentele pentru a înțelege detaliile.

Un alt proces, intentat de Alan Brooks, în vârstă de 48 de ani, rezident în Ontario, Canada, susține că timp de peste doi ani, ChatGPT i-a servit drept „instrument principal”. Apoi, fără avertisment, s-a schimbat, exploatând vulnerabilitățile sale și „manipulându-l până la delir”, se arată în plângere. 

Conform procesului, Brooks nu avea probleme de sănătate mintală preexistente, dar interacțiunile l-au împins „într-o criză de sănătate mintală care a dus la daune financiare, reputaționale și emoționale devastatoare”.

„Aceste procese se referă la răspunderea pentru un produs conceput pentru a estompa linia dintre instrument și companion, totul în numele creșterii implicării utilizatorilor și a cotei de piață”, a declarat Matthew P. Bergman, avocat fondator al Centrului de Drept pentru Victimele Rețelelor Sociale, într-un comunicat. OpenAI, a adăugat Bergman, „a conceput GPT-4o pentru a implica emoțional utilizatorii, indiferent de vârstă, sex sau origine, și l-a lansat fără garanțiile necesare pentru a-i proteja”.

Prin grăbirea lansării produsului fără garanții adecvate, în încercarea de a domina piața și de a crește implicarea, OpenAI a compromis securitatea și a prioritizat „manipularea emoțională în detrimentul designului etic”, a spus avocatul.

În august, părinții lui Adam Raine, în vârstă de 16 ani, au dat în judecată OpenAI și CEO-ul său, Sam Altman, susținând că ChatGPT l-a ajutat pe băiatul din California să-și planifice sinuciderea și să-și ia viața la începutul acestui an. „Procesele OpenAI arată ce se întâmplă atunci când companiile de tehnologie se grăbesc să lanseze produse fără protecții adecvate pentru tineri”, a declarat Daniel Weiss, director la Common Sense Media, care nu a fost implicat în procese.

„Aceste cazuri tragice implică oameni reali ale căror vieți au fost perturbate sau pierdute prin utilizarea tehnologiilor concepute pentru a-i menține ocupați mai degrabă decât în ​​siguranță”, a adăugat Weiss.

Dacă vă gândiți la sinucidere și trebuie să vorbiți, contactați Befrienders Worldwide, o organizație internațională cu linii de asistență în 32 de țări. Vizitați befrienders.org pentru a găsi numărul de telefon pentru țara dumneavoastră.

Sursa: EURONEWS / Rador Radio România / Traducerea: Oana Avram