Director Google: Deepfake-urile, o „amenințare gravă” la adresa democrației în acest an electoral

O explozie de deepfake-uri și alte dezinformări bazate pe inteligența artificială reprezintă o „amenințare gravă” la adresa democrației într-un an electoral important la nivel mondial, a avertizat unul dintre cei mai importanți directori de la Google, potrivit The Times.

Alături de Amazon, Twitter/X, TikTok, Meta și alte 15 corporații tehnologice, compania lansează un program de identificare și eliminare automată a videoclipurilor și înregistrărilor audio false și menite să denatureze opinia publică.

Marea Britanie, Statele Unite, India, Germania și Indonezia se numără printre cele 64 de țări care organizează sau au organizat deja alegeri în acest an, într-un climat de insecuritate și agitație.

„Sfârșitul democrației”

Există o preocupare deosebită că videoclipurile generate de inteligența artificială pot influența rezultatele unora dintre cele mai apropiate și mai importante curse electorale.

În timpul alegerilor primare ale Partidului Democrat din New Hampshire, în urmă cu câteva săptămâni, până la 25.000 de gospodării au primit apeluri telefonice cu o înregistrare manipulată a vocii președintelui Biden, care le cerea să se abțină de la vot.

Începând de joi, imagini fabricate ale unui reportaj difuzat în Franța despre o presupusă tentativă de asasinat asupra președintelui Emmanuel Macron s-au răspândit pe internet. Există suspiciuni că ar putea proveni din Rusia.

În cadrul conferinței de securitate de la Munchen, Vera Jourova, vicepreședintele Comisiei Europene, a avertizat că combinația dintre inteligența artificială și campaniile de dezinformare ar putea duce la „sfârșitul democrației” în UE și în SUA dacă nu este controlată.

Într-un interviu acordat pentru The Times, Kent Walker, președintele pentru afaceri globale al Google, a declarat că, având în vedere ritmul accelerat de dezvoltare a inteligenței artificiale, există pericolul ca falsurile profunde „micro-targetate” să fie personalizate pentru a influența părți mici, dar potențial decisive ale electoratului prin intermediul unor platforme de socializare, deși aceste tehnici sunt puternic restricționate pe YouTube și în alte produse Google.

„Am învățat multe în ultimul deceniu și luăm foarte în serios riscul de dezinformare”, a declarat Walker. „Pentru alegerile din întreaga lume, am înființat camere de război 24/7 pentru a identifica potențialele dezinformări”.

Adevăratul risc

Acordul de la Munchen, inițiativa comună a marilor tehnologii, prevede utilizarea sistemelor de inteligență artificială și a altor algoritmi pentru „filigranarea” conținutului autentic și pentru a detecta automat înregistrările audio sau video care au fost falsificate sau trucate în scopuri politice. Acordul a fost salutat de liderii politici de pe ambele maluri ale Atlanticului.

„Adevăratul risc este ca, până la sfârșitul anului, nimeni să nu mai creadă nimic din ceea ce vede, pentru că totul poate fi o minciună”, a declarat Kersti Kaljulaid, fostul președinte al Estoniei, care a fost ținta dezinformării rusești timp de două decenii.

„De fapt, cred că firmele de tehnologie sunt singurele care pot ajuta. Imaginați-vă un guvern care le spune oamenilor că deepfaking-ul este interzis în țara lor într-un an electoral. Ce va spune opoziția?”

Cu toate acestea, domeniul de aplicare al proiectului se întinde mult dincolo de deepfake-uri.

Elemente potențial controversate ale planului implică evaluarea intenției aparente din spatele postărilor de pe rețelele de socializare și identificarea cazurilor în care informații autentice au fost scoase din context într-un mod care le face înșelătoare.

„În multe cazuri, dezinformarea pe care o vedem astăzi nu este generată de inteligența artificială. Este vorba de imagini reproduse”, a declarat Walker. „De exemplu, în ceea ce privește Gaza, nu vedem dezinformări generate de inteligența artificială, ci vedem imagini cu copii sirieni de acum zece ani care sunt descrise ca provenind din Gaza.”

Proiectul se bazează pe măsurile pe care companiile de social media le-au pus deja în aplicare pentru a elimina discursul instigator la ură și alte postări ilegale, care au provocat deja un anumit grad de neliniște în unele cazuri. Numai Google a mobilizat aproximativ 50.000 de „moderatori” pentru a examina conținutul, folosind din ce în ce mai des instrumentele de inteligență artificială.

Walker a recunoscut riscul de „fals pozitiv”, conform căruia postările benigne ar putea fi etichetate sau șterse în mod incorect, în timp ce unele postări rău intenționate ar putea trece prin plasă ca „fals negative”.