”Halucinațiile” ChatGPT ar putea deschide calea unei serii de procese împotriva OpenAI, acuzată de un DJ de defăimare/ Ce acuzații i-a adus robotul artistului

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

Aşa-zisele halucinaţii, cum sunt numite invenţiile pe care ChatGPT le produce de multe ori, stau la baza a ceea ce ar putea fi primul dintr-o serie lungă de procese pentru defăimare, transmite News.ro.

Mark Walters, un DJ din Georgia, a dat în judecată OpenAI, producătorul ChatGPT, după ce chatbot-ul a afirmat că acesta se face vinovat de deturnarea fondurilor unei organizaţii non-profit.

Acum, în cadrul procesului intentat la Curtea Superioară din Gwinnett County, Georgia, Walters acuză OpenAI de defăimare şi cere o sumă de bani care nu a fost făcută publică.

Procesul este relevant pentru că ar putea crea o jurisprudenţă care să nu fie pe placul marilor companii de tehnologie, care se grăbesc să lanseze instrumente de AI generativ, trecând cu uşurinţă peste numărul imens de informaţii false pe care acestea le generează.

Chatboţii, precum ChatGPT şi Bing, sunt, în acest stadiu, incapabili să distingă între minciună şi adevăr, fiind prinşi în numeroase cazuri că inventează fapte şi date.

Deja există situaţii în care invenţiile boţilor au implicaţii serioase în lumea reală. Spre exemplu, un avocat cu mare experienţă a folosit ChatGPT pentru a-şi crea pledoaria, care a fost plină de informaţii false, iar acum acesta riscă sancţiuni.

Nu ajută nici faptul că firmele care dezvoltă instrumente de AI generativ oferă informaţii confuze privind capacităţile acestora. Pe de o parte, utilizatorii sunt avertizaţi că chatboţii pot genera uneori informaţii false, însă, pe de altă parte, boţii sunt promovaţi drept surse de încredere, ce pot fi folosite în numeroase situaţii, inclusiv la birou.

Dacă instanţa dă dreptate acuzării în acest caz (şi în alte cauze viitoare similare), cursa infernală a AI-ului generativ demarată de companiile de tehnologie s-ar putea domoli, măcar pentru un timp.

sursa: News.ro