Cât de sigur este să îți încarci fotografiile în ChatGPT

Tot mai mulți oameni apelează la chatboți AI nu doar pentru întrebări scrise, ci și pentru unele vizuale — încărcând fotografii pentru a identifica o iritație pe piele, a recunoaște o plantă din grădină sau a edita un portret pentru LinkedIn, notează WSJ.

Dar, pe măsură ce interacțiunile bazate pe imagini cu inteligența artificială devin mai comune, experții în confidențialitate avertizează că utilizatorii ar putea împărtăși mai multe lucruri decât își dau seama.

Companiile de AI prezintă adesea încărcările de imagini ca fiind intrări temporare. Totuși, ceea ce se întâmplă cu aceste imagini după ce interacțiunea se încheie este mult mai puțin clar. Există riscuri în a încărca imagini într-un AI, din cauza vulnerabilităților tehnice, a politicilor neclare și inconsistente ale companiilor și a modurilor necunoscute în care ar putea fi folosite ulterior.

„Este important să eviți să încarci fotografii pe care vrei să te asiguri că nu le vede nimeni altcineva în afară de tine”, spune Jacob Hoffman-Andrews, de la Electronic Frontier Foundation, o organizație care militează pentru drepturile digitale. Totuși, realitatea este că prea mulți utilizatori de AI (la fel ca utilizatorii de internet, în general) presupun un anumit nivel de confidențialitate care, de fapt, ar putea să nu existe.

Mai mult decât vezi

Hoffman-Andrews spune că utilizatorii ar trebui să se gândească la chatboții AI ca la un alt loc unde imaginile lor sunt stocate, similar cu iCloud sau Google Photos, dar cu riscuri suplimentare. Cel mai de bază risc este securitatea: la fel ca acele alte servicii, și chatboții AI pot fi hackuiți, iar conturile utilizatorilor pot fi compromise.

Dar nu este doar despre asta. Companiile de AI au ele însele acces la datele și imaginile utilizatorilor. Pentru a evalua cât de bine funcționează modelele lor, acestea revizuiesc în mod regulat un eșantion de interacțiuni, inclusiv pe cele care conțin fotografii încărcate — proces numit human-in-the-loop. Asta înseamnă că, chiar dacă un utilizator șterge conversația, acea discuție și elementele vizuale ar putea fi deja marcate pentru revizuire umană.

Deși pare inofensiv să încarci o poză cu o plantă din grădină sau un detaliu al pielii, problema este că imaginile dezvăluie adesea mult mai multe informații decât intenționează utilizatorii. Ele pot conține metadate încorporate, precum locația și ora la care a fost făcută fotografia.

În plus, fotografiile de înaltă rezoluție, cu fundaluri de mediu, pot surprinde documente lizibile sau carduri bancare aflate pe un birou. Totodată, pot include detalii despre locuințe, locuri de muncă sau chiar date biometrice ale altor persoane surprinse în imagine.

Dacă companiile de AI nu elimină metadatele din imaginile încărcate, acestea pot ajunge să colecteze o cantitate mare de date despre rutine, locații și alte detalii personale — informații pe care le-ar putea folosi pentru a-și îmbunătăți modelele, spune Jennifer King, expertă în politici de confidențialitate la Stanford University.

Înseamnă că utilizatorii, uneori fără să știe, oferă gratuit date de antrenament companiilor de AI — lucru la care poate nu ar fi de acord dacă ar avea de ales.

Care e politica

Toate aceste metadate și informații identificabile există pe fondul unor politici neclare despre modul în care companiile gestionează efectiv imaginile.

Cercetările lui King arată diferențe majore:

• Microsoft nu antrenează Copilot pe imaginile încărcate.
• Anthropic (creatorul Claude) are o politică similară.
• OpenAI (creatorul ChatGPT) antrenează modelele pe toate datele, cu excepția cazului în care utilizatorii optează pentru excludere.
• Meta nu oferă utilizatorilor din SUA opțiunea de a renunța.

Deși o fotografie de vacanță sau o poză cu o rețetă s-ar putea pierde printre miliarde de date, unele imagini au un risc mai mare de a fi memorate de sistemele AI și de a reapărea ulterior în rezultate.

Hoffman-Andrews subliniază două tipuri de imagini cu risc crescut: cele care circulă de mii de ori online (precum celebra fotografie “Afghan Girl”) și cele cu trăsături extrem de distinctive, care ies în evidență statistic.

Chiar dacă reproducerea exactă a fotografiilor personale este puțin probabilă, AI-ul ar putea genera imagini suficient de asemănătoare încât să fie recunoscute — de exemplu, cu aceeași aluniță distinctivă sau o condiție medicală vizibilă.

În special aplicațiile pentru generarea de avatare anime, îmbătrânirea facială sau realizarea de portrete profesionale cer imagini clare, de înaltă calitate, ale feței — adică date biometrice unice.

Confuziile legate de setările implicite sau interfețele neclare pot duce, de asemenea, la expuneri neintenționate. De pildă, când Meta și-a lansat chatbotul, utilizatorii au descoperit că unele conversații — inclusiv fotografii și nume reale — erau publice.

Utilizări neprevăzute

Pe termen lung, există riscul ca imaginile încărcate astăzi să fie folosite ulterior în moduri care par incompatibile cu scopul inițial, avertizează Sarah Myers West, co-director la AI Now Institute.

Chiar dacă Microsoft, Anthropic, Meta și OpenAI spun că nu vând date unor terți, companiile păstrează imaginile încărcate, iar utilizatorii nu pot anticipa modul în care acestea vor fi folosite odată cu evoluția AI și a strategiilor comerciale.

„Orice încarci acolo va avea o viață care depășește cu mult momentul în care folosești sistemul”, spune West.