Limitele inteligenței artificiale: chipul unui acuzat de crimă, folosit ca model Shein

Chipul lui Luigi Mangione, bărbat acuzat de uciderea CEO-ului UnitedHealthcare, a devenit în ultimele luni un fenomen viral. Fără voia lui, imaginea sa a atras atenția publicului și chiar entuziasmul unor femei care au venit în fața tribunalului pentru a-l vedea, conform Fashion United.

Popularitatea online a explodat după ce fotografia lui Mangione a fost proiectată într-un club din Boston, în timpul unei petreceri tematice Disney, pe piesa „He Could Be the One” din seria Hannah Montana. În cântec, personajul principal trăiește confuzia și emoția descoperirii cuiva care ar putea fi „alesul”.

Săptămâna aceasta, aceeași imagine a apărut într-un context neașteptat: chipul acuzatului a fost folosit drept model pe site-ul Shein. O situație imposibilă, dat fiind că Mangione se află în închisoare.

„Imaginea a fost publicată de un vânzător terț și a fost retrasă imediat ce a fost identificată. Shein aplică standarde stricte pentru conținutul din platformă”, a explicat compania pentru FashionUnited. „Analizăm incidentul, ne consolidăm sistemele de control și vom lua măsuri împotriva vânzătorului implicat.”

Incidentul evidențiază atât riscurile automatizării, cât și fragilitatea sistemelor de verificare pe platformele cu cataloage „infinite”.

Cum a fost posibil? Răspunsul se află în modul de antrenare al unor sisteme de inteligență artificială. Atunci când un chip devine viral, acesta ajunge rapid în baze de date deschise, forumuri sau arhive puțin reglementate, folosite adesea de instrumente AI low-cost. Din acel moment, imaginea poate fi reprodusă și inserată în contexte complet nepotrivite.

În cazul Shein, mare parte din conținutul vizual provine de la vânzători terți care recurg la soluții tehnologice rapide pentru a produce material promoțional în volum mare. Este foarte posibil ca unul dintre aceștia să fi utilizat un software de generare vizuală ieftin, fără să verifice rezultatul final.

Exemplul arată cât de vulnerabil poate fi comerțul online atunci când se bazează pe AI fără filtre umane. Alte branduri aleg soluții mai transparente și controlate. H&M, de pildă, utilizează așa-numiții „digital twins”, modele digitale create pe baza unor persoane reale, care își dau acordul contra unei remunerații. Sistemul garantează atât respectarea drepturilor, cât și trasabilitatea conținutului.

Și brandul spaniol Desigual a început să colaboreze cu parteneri specializați pentru a integra tehnologia AI într-un mod responsabil, fără a pierde controlul asupra imaginii publice.

Inteligența artificială deschide perspective uriașe pentru modă, de la producția de conținut la personalizarea experiențelor clienților. Însă episodul Shein demonstrează că inovația fără reglementare și supraveghere atentă poate aluneca rapid într-un teren periculos, unde imaginea unui acuzat de crimă poate fi transformată, din eroare, într-un model de catalog.

Industria modei, aflată în plină digitalizare, are de ales între viteza facilă a soluțiilor low-cost și siguranța unor sisteme mai transparente, care respectă atât oamenii, cât și reputația brandurilor.