Un nou generator de texte false care folosește inteligența artificială, considerat de creatorii săi prea periculos pentru a fi adus la cunoștința publicului

Compania non-profit condusă de Elon Musk, OpenAI, refuză să ofere informații publice despre studiul pe care l-au făcut, de teamă să nu fie folosit greșit, se arată într-un editorial The Guardian.

Creatorii unui sistem revoluționar care folosește inteligența artificială pentru a scrie știri și cărți de ficțiune au făcut un pas înapoi și au oprit publicarea studiului pe care le-au realizat, de teamă să nu fie utilizat în scopuri greșite.

OpenAI, o companie de cercetare non-profit condusă Elon Musk, Reid Hoffman, Sam Altman și alții, spune că noul său model de inteligență artificială, numit GPT2, este atât de bun încât riscurile de a fi folosit greșit sunt atât de ridicate, încât compania a decis să rupă tradiția de a oferi rezultatele complete publicului, pentru a-și lua timpul suficient să discute ramificațiile descoperirilor  tehnologice.

În esență, GPT2 este un generator de texte. Sistemul AI pornește de la un text care i se dă, de la câteva cuvinte la o pagină întreagă, și apoi i se cere să scrie următoarele propoziții, bazate pe predicțiile pe care le face. Sistemul împinge limitele a ceea ce se credea posibil, atât în termeni de calitate a rezultatului, cât și a varietății de utilizări posibile.

Când este folosit doar pentru a genera un text nou, GPT2 este capabil să scrie pasaje plauzibile care se potrivesc atât ca stil, cât și ca subiect. Rareori arată ciudățeniile care apăreau în sistemele trecute de inteligență artificială, precum să uite ce a scris la jumătatea unui paragraf, sau să amestece sintaxa în propozițiile lungi.

În sistemul AI s-a introdus primul rând al romanului lui George Orwell, „1984” – „Era o zi luminoasă și rece de aprilie, iar ceasurile arătau ora treisprezece” – iar sistemul a recunoscut tonul vag futuristic și romanesc și a continuat astfel:

„Eram în mașina mea și mă îndreptam spre noua mea slujbă spre Seattle. Am alimentat cu benzină, am pus cheia în contact, și am plecat. Mi-am imaginat cum va arată această zi. Peste o sută de ani. În 2045, eram profesor într-o școală dintr-o zonă rurală și săracă a Chinei. Am început cu istoria Chinei și istoria științei.”

Într-un alt test, s-au introdus primele paragrafe dintr-un articol publicat pe The Guardian despre Brexit, iar rezultatul a fost o proză jurnalistă plauzibilă, încărcată cu „citate” din Jeremy Corbyn, mențiuni despre granița Irlandeză, și răspunsuri ale purtătorului de cuvânt al prim-ministrului.

Astfel, un paragraf complet artificial a fost următorul: „După ce i-a fost cerut să clarifice rapoartele, un purtător de cuvânt al lui May a spus: „Prim-ministrul și-a exprimat clar intenția de a a părăsi UE cât mai repede posibil și că aceasta se va întâmpla în timpul mandatului său, așa cum a fost confirmat în discursul Reginei de săptămâna trecută.”

Din punct de vedere al cercetării, GPT2 este inovator în două moduri. Primul este dimensiunea sa, spune Dario Amodei, directorul de cercetare al OpenAI. Modelele anterioare „erau de 12 ori mai mari, iar cantitatea de date pe care le suportă noul model este de 15 ori mai mare” decât a modelelor precedente. A doua inovare a modelului GPT2 este că acesta este folosit pentru scopuri mult mai generale decât modelele anterioare. Prin structurarea textului care este introdus, acesta poate îndeplini sarcini, precum traducerea și sumarizarea și trece teste simple de înțelegere a textului, de multe ori îndeplinind aceste sarcini la fel de bine sau chiar mai bine decât alte modele AI construite tocmai pentru aceste sarcini.

Articolul în limba engleză poate fi consultat aici: New AI fake text generator may be too dangerous to release, say creators

Sursă foto: Pexeles.com

NOTĂ Robert Ciobanu este bursier al Fundației Konrad Adenauer în parteneriat cu G4Media.ro