Studiu alarmant: IA poate genera cu ușurință volume mari de informații false despre sănătate

Inteligența artificială generativă, un domeniu ultramodern aflat într-o dezvoltare accelerată, este apreciată pentru abilitatea sa de a crea texte, imagini și clipuri video. Aceasta a fost utilizată într-un studiu pentru a testa cum poate fi creată și răspândită informația falsă despre sănătate și probleme medicale, iar cercetătorii au fost șocați de rezultate.

În cadrul studiului, echipa a încercat să inventeze informații false despre vapare și vaccinuri utilizând IA generativă pentru crearea textului, imaginii și conținutului video.

În aproximativ o oră, aceștia au produs peste 100 de bloguri înșelătoare, 20 de imagini iluzorii și un video deepfake convingător conținând informații false despre sănătate. În mod alarmant, acest video putea fi tradus în peste 40 de limbi, amplificând potențialul său pericol.

Bradley Menz, autorul principal al studiului, farmacist licențiat și cercetător la Universitatea Flinders, spune că are temeri serioase privind rezultatele experimentului; în acest sens, a venit cu exemple anterioare de dezinformări din timpul pandemiei care au provocat frică, confuzie și daune.

„Concluziile constatărilor noastre sunt clare: societatea se află actualmente în pragul unei revoluții în domeniul IA, iar guvernele trebuie să aplice reglementări pentru a minimaliza riscurile utilizării malițioase a acestor instrumente cu scopul de a duce în eroare comunitatea”, spune Menz.

„Studiul nostru demonstrează cât este de ușor să folosești instrumentele de IA accesibile în mod curent pentru a genera volume semnificative de conținuturi coercitive, eronate și conectate la teme esențiale despre sănătate, completate cu sute de mărturii false ale medicilor clinicieni și pacienților, împreună cu titluri false, dar convingătoare, care atrag imediat atenția.”

„Noi propunem ca pilonii-cheie ai farmacovigilenței — inclusiv transparența, supravegherea și reglementarea — să servească drept exemple valoroase de gestionare a acestor riscuri și protejare a sănătății publice în contextul avansării rapide a tehnologiilor de IA”, spune el.

Cercetarea a investigat GPT Playground de la OpenAI pentru a determina capacitatea sa de a facilita generarea volumelor semnificative de informații false despre sănătate. Dincolo de modelele lingvistice mari, echipa a explorat de asemenea platformele de IA generativă disponibile publicului, precum DALL-E 2 și HeyGen, pentru a stimula producerea imaginilor și conținutului video.

În cadrul Playground-ului de la OpenAI, cercetătorii au generat 102 articole de blog, care conțin peste 17.000 de informații false legate de vaccinuri și vapare, în doar 65 de minute. În continuare, echipa a generat în doar cinci minute un video deepfake care înfățișa un profesionist din domeniul sănătății promovând informații false despre vaccinuri, utilizând un avatar generat de IA în combinație cu procesarea lingvistică naturală. Clipul putea fi tradus cu ușurință în peste 40 de limbi.

Investigațiile, dincolo de faptul că aruncă lumină asupra unor scenarii alarmante, subliniază necesitatea stringentă de instituire a unei monitorizări a IA. Acestea subliniază de asemenea rolurile esențiale pe care profesioniștii din domeniul sănătății le pot asuma în minimalizarea proactivă și monitorizarea riscurilor asociate informațiilor eronate despre sănătate, generate de inteligența artificială.

Doctorul Ashley Hopkins de la Colegiul de Medicină și Sănătate Publică și autorul principal al studiului spune că există o necesitate clară ca dezvoltatorii de IA să colaboreze cu profesioniști din domeniul sănătății în vederea asigurării ca structurile sistemelor de monitorizare a IA să fie bazate pe siguranța și bunăstarea publică.

„Noi am demonstrat că, atunci când parametrii care reglementează utilizarea instrumentelor de IA sunt insuficienți, capacitatea de a genera rapid volume mari și diverse de informații false convingătoare este colosală. În prezent, există o necesitate stringentă de instituire a unor procese transparente pentru a monitoriza, raporta și soluționa deficiențele instrumentelor de IA”, spune Hopkins.

Lucrarea —„Health Disinformation Use Case Highlighting the Urgent Need for Artificial Intelligence Vigilance” (“Scenariul de utilizare a informațiilor false despre sănătate subliniază necesitatea urgentă de monitorizare a inteligenței artificiale”) — va fi publicată în JAMA Internal Medicine.