Anchetă BBC: videoclipuri AI cu femei de culoare sexualizate, eliminate de pe TikTok

Riya Ulan (foto sus, stânga – sursa, captură BBC) a observat că videoclipul ei fusese modificat pentru a prezenta un personaj digital generat de inteligența artificială (dreapta).

TikTok a suspendat 20 de conturi după ce BBC a semnalat utilizarea unor ”influencerițe” de culoare generate de inteligența artificială pentru a direcționa utilizatorii către site-uri care promovează conținut sexual explicit.

Acestea fac parte dintr-o tendință tot mai răspândită a conturilor de pe Instagram și TikTok, care a fost criticată ca fiind rasistă, exploatatoare și înșelătoare din cauza stereotipurilor rasiale și a limbajului folosit.

BBC și cercetătorii de la publicația independentă specializată în IA, Riddance, au descoperit zeci de conturi pe cele două platforme care prezentau personaje digitale sau avatare feminine de culoare cu un caracter extrem de sexualizat.

Imaginile și videoclipurile au fost generate de inteligența artificială, dar nu au fost etichetate ca atare, ceea ce constituie o încălcare evidentă a liniilor directoare ale platformelor.

Aproape toate conturile se aflau pe Instagram, iar aproximativ o treime aveau și versiuni pe TikTok. Meta, compania-mamă a Instagram, a declarat pentru BBC că desfășoară o anchetă, dar nu a precizat dacă a luat vreo măsură.

Avatarurile sunt adesea prezentate îmbrăcate în costume de baie sumare sau alte ținute decoltate și sunt reprezentate cu forme corporale exagerate.

Unele au un ten extrem de închis, care a fost modificat digital, conferindu-le un aspect artificial.

Numele conturilor includ termeni precum „black”, „noir”, „dark” și „ebony”. Mai multe dintre ele includ în postările lor comentarii despre bărbații albi, precum „îi plac bărbații albi” și „de ce am nevoie de un bărbat alb în viața mea”.

Multe dintre aceste conturi se urmăresc reciproc sau își dau like-uri.

BBC, în colaborare cu analiștii Jeremy Carrasco și Angel Nulani de la Riddance, a identificat 60 de astfel de conturi, în principal pe Instagram, care au distribuit linkuri sau lanțuri de linkuri către conținut sexual explicit plătit de pe site-uri terțe. Site-urile respective indicau că imaginile erau generate de IA, dar conturile de Instagram nu făceau această precizare.

Cercetarea a identificat, de asemenea, mult mai multe conturi atât pe Instagram, cât și pe TikTok, cu avataruri similare generate de IA, care nu conțineau linkuri către conținut plătit.

Videoclip furat de la o ”influencer” din Malayezia

Unul dintre conturile închise de TikTok – deși era încă activ pe Instagram la momentul publicării – a stârnit și mai multă indignare prin furtul de videoclipuri de la persoane reale.

Este prezentat ca povestea unui personaj remarcabil generat de inteligența artificială și a strâns trei milioane de urmăritori în doar câteva săptămâni de la lansarea sa, în decembrie.

Însă a modificat și a publicat videoclipuri aparținând unei creatoare de conținut autentice, Riya Ulan, un foto-model stabilit în Malaezia.

Fața avatarului, care are un ten extrem de închis, creat artificial, este suprapusă peste corpul lui Riya, iar mișcările, îmbrăcămintea și fundalul ei sunt reproduse.

„Eram furioasă. Desigur, videoclipurile mele sunt disponibile pe internet… Dar asta nu înseamnă că poți pur și simplu să le iei, să le furi și să le postezi ca și cum ar fi ale tale”, a declarat Riya pentru BBC.

Unul dintre videoclipurile modificate a strâns peste 35 de milioane de vizionări pe TikTok și 173 de milioane pe Instagram, adică de aproximativ 47 de ori mai multe vizionări decât postarea originală a Riyei.

Deși cele trei videoclipuri care corespund în mod evident conținutului creat de Riya nu au caracter sexual, alte videoclipuri de pe contul generat de IA, în care apare același personaj creat digital, o prezintă îmbrăcată în ținute decoltate sau efectuând gesturi provocatoare. O serie de linkuri de pe acest cont redirecționează către conținut pentru adulți cu acces contra cost.

„Nu știu ce mă îngrijorează mai mult: faptul că îmi folosesc videoclipul pentru a-și promova conținutul explicit sau faptul că oamenii chiar cred în asta”, spune ea.

„Utilizatorilor le este din ce în ce mai greu să-și dea seama dacă un conținut este real, iar oamenii continuă să cadă în capcana acestor modele de IA”, adaugă ea.

Un avatar nu se confruntă cu consecințe sociale

Mulți utilizatori par să considere avatarurile ca fiind reale, în ciuda trăsăturilor lor nerealiste. În postări sau în poveștile de pe Instagram, unele conturi neagă că ar folosi inteligența artificială, inclusiv cel care a preluat conținutul de pe contul de Instagram al Riyei.

Riya spune că a semnalat contul de mai multe ori ambelor platforme de social media, dar, la momentul respectiv, conținutul nu a fost eliminat. TikTok l-a suspendat după ce BBC a solicitat un comentariu.

„Consider că aceste relatări sunt rasiste, deoarece existența lor perpetuează o lungă istorie a exploatării persoanelor de culoare”, afirmă Angel Nulani, cercetătoarea cu care a colaborat BBC în ancheta jurnalistică.

„Folosirea caricaturilor, a terminologiei rasiste și a reprezentărilor nerealiste ale femeilor de culoare dovedește că nu le pasă de siguranța sau bunăstarea noastră, ci doar de capacitatea noastră de a fi exploatate ca parte a mașinăriei pornografice online”, adaugă ea.

Carrasco, care critică tendințele și tehnicile din domeniul IA pe conturile sale de socializare, afirmă că „ceea ce este nou este numărul mare de reprezentări rasiste și fără rușine ale persoanelor de culoare”.

Deși „acel fetiș” ar fi putut exista și în trecut, IA „îi conferă o nouă relevanță”, afirmă el, care mai explică faptul că IA facilitează eliminarea nuanțelor din imagini și videoclipuri pentru a crea nuanțe de piele închise care nu sunt naturale și pentru a crea efecte care, în trecut, ar fi necesitat animație sau retușarea pielii.

De asemenea, spune el, un avatar nu se confruntă cu consecințe sociale: „Nu există rușine… iar asta este un aspect pe care IA îl exploatează în mod unic.”

Creatoarea de conținut Houda Fonone spune că se teme că reflecțiile online ale experiențelor trăite sunt înlocuite de imagini artificiale.

Ea spune că acest lucru riscă să consolideze stereotipurile, în timp ce „poveștile și experiențele noastre din viața reală sunt înlocuite de o imagine artificială”.

Răspunsul Meta și Tik Tok pentru BBC

BBC a trimis companiilor Meta și TikTok exemple ale conturilor pe care le-am identificat și le-a solicitat un răspuns.

Două zile mai târziu, un purtător de cuvânt al TikTok a declarat pentru BBC că compania „a eliminat conținutul și a suspendat conturile care încalcă regulile noastre”.

În doar câteva zile, 20 de conturi au fost marcate ca „blocate” în aplicație.

„TikTok interzice conținutul generat de IA care prezintă persoane fără acordul acestora; avem o politică de toleranță zero față de conținutul care promovează servicii sexuale în afara platformei”, a declarat purtătorul de cuvânt.

Compania afirmă că interzice și elimină conținutul generat de IA care este dăunător sau înșelător și le cere utilizatorilor să eticheteze conținutul generat de IA care pare realist. De asemenea, a precizat că a aplicat etichetarea corespunzătoare unui număr de videoclipuri.

Meta a declarat că investighează conținutul care i-a fost semnalat.

Compania afirmă că dorește ca utilizatorii să știe când vizualizează postări create cu ajutorul inteligenței artificiale și că a adoptat politici privind etichetarea conținutului generat de IA. Nouă conturi de Instagram pe care BBC le-a urmărit par să nu mai existe.

Niciuna dintre cele două platforme nu a oferit detalii cu privire la sesizările inițiale ale Riyei, scrie BBC în ediția online.