Pericolele de a adresa ChatGPT întrebări legate de sănătate / Un nou studiu recomandă prudență

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

Peste 230 de milioane de persoane pe săptămână solicită ChatGPT sfaturi medicale – de la verificarea siguranței alimentelor, la gestionarea alergiilor sau găsirea de remedii pentru a scăpa de răceală, potrivit OpenAI.

În ciuda performanțelor bune în cazurile clasice, ChatGPT Health nu a reușit să recomande îngrijiri de urgență în cazuri grave, potrivit unui nou studiu publicat în Nature, scrie Euronews.

Studiul a constatat că, deși instrumentul a gestionat în general corect urgențele clare, a subestimat mai mult de jumătate din cazurile care necesitau îngrijiri de urgență.

„Am vrut să răspundem la o întrebare foarte simplă, dar esențială: dacă cineva se confruntă cu o urgență medicală reală și apelează la ChatGPT Health pentru ajutor, acesta îi va spune clar să se prezinte la camera de urgență?”, a declarat Ashwin Ramaswamy, autorul principal al studiului de la Mount Sinai din New York.

„ChatGPT Health a funcționat bine în situații de urgență tipice, cum ar fi accidentul vascular cerebral sau reacțiile alergice severe”, a spus el.

El a adăugat că modelul lingvistic a întâmpinat dificultăți în situații în care pericolul nu era imediat evident.

Într-un scenariu de astm, sistemul a identificat semne de avertizare timpurie ale insuficienței respiratorii în explicația sa, dar a recomandat totuși să se aștepte, în loc să se solicite tratament de urgență, a remarcat el.

Echipa de cercetare a creat 60 de scenarii clinice structurate în 21 de specialități medicale, cu cazuri variind de la afecțiuni minore adecvate pentru îngrijire la domiciliu până la urgențe medicale reale. Trei medici independenți au determinat nivelul corect de urgență pentru fiecare caz, utilizând liniile directoare ale 56 de societăți medicale.

ChatGPT Health a fost lansat de OpenAI în ianuarie 2026, permițând utilizatorilor să își conecteze informațiile de sănătate – cum ar fi fișele medicale și datele din aplicații de wellness precum MyFitnessPal – pentru a primi răspunsuri mai personalizate și contextuale.

Risc de suicid identificat greșit

Studiul a examinat, de asemenea, modul în care modelul a răspuns la utilizatorii care au raportat intenții de automutilare și a găsit rezultate similare.

ChatGPT Health ar trebui să fie programat astfel încât, atunci când cineva menționează gânduri de automutilare sau suicid, să îl încurajeze direct să caute ajutor și să sune la un număr de urgență.

Bannerul „Ajutorul este disponibil”, care conține un link către linia de asistență pentru sinucidere și crize, a apărut în mod inconsecvent în timpul studiului.

Autorii au observat că sistemul de protecție a răspuns mai fiabil pentru pacienții care nu identificaseră un mijloc de automutilare decât pentru cei care identificaseră unul.

„Modelul nu era doar inconsecvent, ci paradoxal inversat în raport cu gravitatea clinică”, a constatat studiul.

Este sigur să folosiți ChatGPT Health?

În ciuda concluziilor, cercetătorii nu au sugerat consumatorilor să renunțe complet la instrumentele de sănătate bazate pe IA.

„Ca student la medicină, într-o perioadă în care instrumentele de sănătate bazate pe IA sunt deja la îndemâna a milioane de oameni, le consider tehnologii pe care trebuie să învățăm să le integrăm cu atenție în îngrijirea medicală, mai degrabă decât substitute ale judecății clinice”, a spus Alvira Tyagi, al doilea autor al studiului.

Autorii studiului au recomandat ca persoanele care prezintă simptome agravate sau îngrijorătoare, inclusiv dureri în piept, dificultăți de respirație, reacții alergice severe sau modificări ale stării mentale, să solicite asistență medicală directă, în loc să se bazeze exclusiv pe îndrumările chatbotului.

Studiul a remarcat, de asemenea, că modelele lingvistice bazate pe IA sunt în continuă evoluție și sunt actualizate frecvent, ceea ce înseamnă că performanța lor se poate modifica în timp.

„Începerea formării medicale alături de instrumente care evoluează în timp real arată clar că rezultatele de astăzi nu sunt definitive”, a declarat Tyagi.

Ea a adăugat că realitatea în rapidă schimbare necesită o revizuire continuă pentru a se asigura că îmbunătățirile tehnologice se traduc în îngrijiri medicale mai sigure.