Experții avertizează că trendul cu caricaturile făcute de ChatGPT ar putea fi un cadou pentru fraudatori

Adaugă-ne ca sursă preferată

Urmărește-ne in Discover

Imaginile încărcate pe chatbot-urile cu IA pot fi păstrate pentru o perioadă de timp necunoscută și, dacă ajung în mâinile cui nu trebuie, pot duce la uzurparea identității, escrocherii și conturi false pe rețelele de socializare, relatează Euronews.

Trendul caricaturilor create de inteligența artificială (IA), care prezintă tot ce știe un chatbot despre o persoană într-o imagine colorată, poate reprezenta un risc serios pentru securitate, potrivit experților în securitate cibernetică. Utilizatorii încarcă o fotografie cu ei înșiși, împreună cu logo-ul companiei sau detalii despre rolul lor, și solicită ChatGPT de la OpenAI să creeze o caricatură a lor și a meseriei lor, folosind informațiile pe care chatbotul le deține despre ei.

Experții în securitate cibernetică au declarat pentru Euronews Next că provocările de pe rețelele sociale, precum caricaturile AI, pot oferi fraudatorilor o multe informații valoroase. O singură imagine, asociată cu detalii personale, poate dezvălui mai multe informații decât își dau seama utilizatorii.

„Le faci treaba fraudatorilor, oferindu-le o reprezentare vizuală a cine ești”, a declarat Bob Long, vicepreședinte al companiei de autentificare a vârstei Daon.

Formularea în sine ar trebui să ridice semne de întrebare, a susținut el, deoarece „pare că a fost inițiată intenționat de un fraudator care dorea să-și ușureze munca”.

Când un utilizator încarcă o imagine într-un chatbot AI, sistemul procesează imaginea pentru a extrage date, cum ar fi emoția persoanei, mediul înconjurător sau informații care ar putea dezvălui locația acesteia, potrivit consultantului în securitate cibernetică Jake Moore. Aceste informații pot fi apoi stocate pentru o perioadă de timp necunoscută.

Long a spus că imaginile colectate de la utilizatori pot fi utilizate și păstrate pentru a antrena generatoarele de imagini AI ca parte a seturilor lor de date.
O încălcare a securității datelor la o companie precum OpenAI ar putea însemna că datele sensibile, cum ar fi imaginile încărcate și informațiile personale colectate de chatbot, ar putea ajunge în mâinile unor persoane rău intenționate care le-ar putea exploata.

În mâinile greșite, o singură imagine de înaltă rezoluție ar putea fi utilizată pentru a crea conturi false pe rețelele sociale sau deepfake-uri realiste generate de IA, care ar putea fi folosite pentru a comite o înșelătorie, potrivit Charlotte Wilson, șefa departamentului de întreprinderi la Check Point, o companie israeliană de securitate cibernetică.

„Selfie-urile ajută infractorii să treacă de la înșelătorii generice la impersonări personalizate, foarte convingătoare”, a spus ea.

Setările de confidențialitate ale OpenAI precizează că imaginile încărcate pot fi utilizate pentru a îmbunătăți modelul, ceea ce poate include și antrenarea acestuia. Când a fost întrebat despre setările de confidențialitate ale modelului, ChatGPT a clarificat că acest lucru nu înseamnă că fiecare fotografie este plasată într-o bază de date publică.

În schimb, chatbotul a spus că utilizează modele din conținutul utilizatorilor pentru a rafina modul în care sistemul generează imagini.

Pentru cei care doresc să urmeze în continuare această tendință, experții recomandă limitarea informațiilor partajate. Wilson a spus că utilizatorii ar trebui să evite să încarce imagini care dezvăluie informații de identificare.

„Decupați cu atenție, păstrați fundalul simplu și nu includeți insigne, uniforme, ecusoane de serviciu, indicii despre locație sau orice altceva care vă leagă de un angajator sau de o rutină”, a spus ea.

Wilson a avertizat împotriva împărtășirii excesive de informații personale în prompturi, cum ar fi funcția, orașul sau angajatorul.

Între timp, Moore a recomandat revizuirea setărilor de confidențialitate înainte de participare, inclusiv opțiunea de a elimina datele din antrenamentul AI.

OpenAI are un portal de confidențialitate care permite utilizatorilor să renunțe la antrenamentul datelor AI făcând clic pe „nu antrenați conținutul meu”.
Utilizatorii pot, de asemenea, să renunțe la antrenarea din conversațiile lor textuale cu ChatGPT, dezactivând setarea „îmbunătățiți modelul pentru toată lumea”.

Conform legislației UE, utilizatorii pot solicita ștergerea datelor personale colectate de companie. Cu toate acestea, OpenAI menționează că poate păstra unele informații chiar și după ștergere, pentru a rezolva problemele legate de fraudă, abuz și securitate.