„Periculos și alarmant”: Google elimină unele dintre rezumatele sale generate de IA după ce sănătatea utilizatorilor a fost pusă în pericol

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

Google a eliminat unele dintre rezumatele sale generate de AI privind sănătatea  după ce o anchetă a ziarului Guardian a descoperit că oamenii erau expuși riscului de a fi afectați de informații false și înșelătoare.

Compania a declarat că rezumatele sale AI, care utilizează inteligența artificială generativă pentru a oferi instantanee cu informații esențiale despre un subiect sau o întrebare, sunt „utile” și „fiabile”.

Însă unele dintre rezumate, care apar în partea de sus a rezultatelor căutării, ofereau informații inexacte despre sănătate, expunând utilizatorii la riscuri.

Într-un caz descris de experți ca „periculos” și „alarmant”, Google a furnizat informații false despre teste cruciale ale funcției hepatice, care puteau determina persoanele cu boli hepatice grave să creadă în mod eronat că sunt sănătoase.

Guardian a descoperit că introducerea termenului „care este intervalul normal pentru testele de sânge ale ficatului” genera o mulțime de cifre, fără prea mult context și fără a ține cont de naționalitatea, sexul, etnia sau vârsta pacienților.

Experții au afirmat că ceea ce AI Overviews de la Google considera normal putea diferi drastic de ceea ce era considerat normal în realitate. Rezumatele puteau determina pacienții grav bolnavi să creadă în mod eronat că au un rezultat normal al testelor și să nu se mai prezinte la consultările medicale de control.

După anchetă, compania a eliminat AI Overviews pentru termenii de căutare „care este intervalul normal pentru testele de sânge ale ficatului” și „care este intervalul normal pentru testele funcționale ale ficatului”.

Un purtător de cuvânt al Google a declarat: „Nu comentăm eliminările individuale din cadrul căutării. În cazurile în care AI Overviews omite anumite contexte, lucrăm pentru a aduce îmbunătățiri generale și, de asemenea, luăm măsuri în conformitate cu politicile noastre, acolo unde este cazul.”

Vanessa Hebditch, directoarea de comunicare și politici la British Liver Trust, o organizație caritabilă pentru sănătatea ficatului, a declarat: „Este o veste excelentă și suntem încântați să vedem eliminarea AI Overviews de la Google în aceste cazuri.

„Cu toate acestea, dacă întrebarea este formulată într-un mod diferit, este posibil să se afișeze în continuare o prezentare generală AI potențial înșelătoare și rămânem îngrijorați că alte informații medicale generate de AI pot fi inexacte și confuze.”

The Guardian a constatat că introducerea unor variații ușoare ale interogărilor originale în Google, cum ar fi „interval de referință lft” sau „interval de referință test lft”, a generat prezentări generale AI. Acest lucru a fost o mare îngrijorare, a spus Hebditch.

„Un test de funcționare a ficatului sau LFT este o colecție de diferite teste de sânge. Înțelegerea rezultatelor și a ceea ce trebuie făcut în continuare este complexă și implică mult mai mult decât compararea unui set de numere.

„Dar AI Overviews prezintă o listă de teste cu caractere aldine, ceea ce face foarte ușor pentru cititori să nu observe că aceste numere ar putea să nu fie chiar cele potrivite pentru testul lor.

„În plus, AI Overviews nu avertizează că cineva poate obține rezultate normale la aceste teste atunci când are o boală hepatică gravă și are nevoie de îngrijiri medicale suplimentare. Această falsă siguranță ar putea fi foarte dăunătoare.”

Google, care deține o cotă de 91% din piața globală a motoarelor de căutare, a declarat că analizează noile exemple furnizate de Guardian.

Hebditch a declarat: „Cea mai mare preocupare a noastră în legătură cu toate acestea este că se caută cu lupa un singur rezultat al căutării, iar Google poate pur și simplu să oprească AI Overviews pentru acel rezultat, dar nu abordează problema mai amplă a AI Overviews pentru sănătate.”

Sue Farrington, președinta Patient Information Forum, care promovează informații medicale bazate pe dovezi pentru pacienți, public și profesioniști din domeniul sănătății, a salutat eliminarea rezumatelor, dar a declarat că încă are îngrijorări.

„Este un rezultat bun, dar este doar primul pas în ceea ce este necesar pentru a menține încrederea în rezultatele căutărilor Google legate de sănătate. Există încă prea multe exemple în care AI Overviews de la Google oferă oamenilor informații inexacte despre sănătate.”

Milioane de adulți din întreaga lume se luptă deja să acceseze informații de încredere despre sănătate, a spus Farrington. „De aceea este atât de important ca Google să îndrume oamenii către informații solide și documentate despre sănătate și către oferte de îngrijire medicală de la organizații de sănătate de încredere.”

AI Overviews continuă să apară pentru alte exemple pe care Guardian le-a semnalat inițial către Google. Acestea includ rezumate ale informațiilor despre cancer și sănătatea mintală pe care experții le-au descris ca fiind „complet eronate” și „foarte periculoase”.

Întrebat de ce aceste AI Overviews nu au fost, de asemenea, eliminate, Google a răspuns că acestea conțin linkuri către surse cunoscute și de încredere și informează oamenii când este important să solicite sfatul unui expert.

Un purtător de cuvânt a declarat: „Echipa noastră internă de medici a analizat informațiile care ne-au fost furnizate și a constatat că, în multe cazuri, informațiile nu erau inexacte și erau susținute de site-uri web de înaltă calitate.”

Victor Tangermann, redactor-șef al site-ului web de tehnologie Futurism, a declarat că rezultatele anchetei Guardian au arătat că Google are de lucru „pentru a se asigura că instrumentul său de AI nu difuzează informații eronate și periculoase despre sănătate”.

Google a declarat că AI Overviews apare doar în cazul căutărilor pentru care are încredere ridicată în calitatea răspunsurilor. Compania măsoară și evaluează constant calitatea rezumatelor sale pentru multe categorii diferite de informații, a adăugat aceasta.

Într-un articol pentru Search Engine Journal, scriitorul senior Matt Southern a declarat: „AI Overviews apare deasupra rezultatelor clasate. Când subiectul este sănătatea, erorile au o pondere mai mare.”