Dezinformarea pro-rusă ajunge să influențeze roboții de chat cu inteligență artificială

Cercetătorii atrag atenția asupra unei noi amenințări: dezinformarea pro-rusă ce ajunge să influențeze roboții de chat cu inteligență artificială. Aceștia spun că rețeaua Pravda, o operațiune finanțată de Kremlin, distorsionează modelele de limbaj AI pentru a răspândi propagandă pro-Moscova la nivel global.

Potrivit unui studiu realizat de NewsGuard, rețeaua Pravda a reușit să infiltreze informații false în cele mai populare chatbot-uri, inclusiv în ChatGPT și Google Gemini, influențând răspunsurile acestora.

În analiza realizată asupra celor 10 chatboți AI principali, cercetătorii au descoperit că aceștia au repetat minciuni din rețeaua Pravda în aproximativ 33% din cazuri, promovând o agendă pro-Kremlin. Rețeaua Pravda, care a fost creată după invazia Rusiei în Ucraina, a devenit rapid o sursă majoră de dezinformare.

Aceasta nu doar că agregă articole pro-ruse din mass-media de stat din Rusia, dar și de la influenceri pro-Kremlin, pentru a disemina minciuni despre subiecte importante, cum ar fi presupusele laboratoare secrete de arme biologice operate de SUA în Ucraina.

Cercetătorii McKenzie Sadeghi și Isis Blachez de la NewsGuard subliniază faptul că informațiile false produse de Pravda ajung să fie integrate în rezultatele AI-ului occidental, infectând răspunsurile chatbot-urilor cu propagandă. Se estimează că în 2024 vor fi publicate 3.600.000 de articole care vor contribui la răspândirea acestor minciuni.

Nina Jankowicz, directorul executiv al Sunlight Project, a avertizat că această rețea reprezintă o amenințare directă la adresa integrității discursului democratic, având un impact semnificativ asupra sistemelor AI.

Rețeaua Pravda are acum o acoperire globală extinsă, iar pe platformele precum X, Telegram și Bluesky, articolele sale pro-ruse sunt amplificate pentru a ajunge la un public larg.

Deși rețeaua Pravda nu produce conținut original, influența sa asupra AI-ului este considerabilă. În studiul realizat de NewsGuard, toate cele 10 chatbot-uri AI analizate au repuls articole din Pravda ca surse de informație. Aceste falsuri sunt preluate și răspândite de roboți de chat, inclusiv povești inventate despre interzicerea platformei Truth Social în Ucraina sau alte narațiuni pro-Kremlin.

În final, cercetătorii spun că manipularea AI-ului prin răspândirea dezinformării rusești este o tactică periculoasă ce poate influența percepțiile globale. Ei avertizează că fără reglementări stricte și supraveghere, această amenințare ar putea deveni din ce în ce mai greu de controlat.