Uniunea Europeană reglementează în premieră inteligenţa artificială. Legislaţia prevede o supraveghere specifică a sistemelor de IA care interacţionează cu oamenii

Membrii Parlamentului European au avut nevoie de o ședință de negocieri maraton, care a durat 36 de ore, pentru a reglementa condițiile în care poate fi folosită Inteligența Artificială. Documentul rezultat în urma negocierilor este considerat unul istoric pentru că se axează în primul rând pe interzicerea formelor prin care inteligența artificială poate fi periculoasă pentru om.

Dragoș Tudorache,co-raportor al Parlamentului European: Avem garanţii. Avem toate prevederile necesare, asigurările necesare pentru a le oferi încredere cetăţenilor noştri, în interacţiunea cu Inteligenţa Artificială, cu produsele, cu serviciile cu care vor intra în contact de acum înainte. Şi, în acelaşi timp, avem toate elementele pentru a permite funcţionarea ecosistemelor, pentru dezvoltare, dezvoltarea Inteligenţei Artificiale în Europa şi, de asemenea, pentru desfăşurarea activităţii acelor companii aflate în afara Europei.

Parlamentarii europeni au avut drept obiectiv principal crearea unei legislații care să asigure că ecosistemul Inteligenței Artificiale din Europa se va dezvolta cu ajutorul intervenției umane. Și astfel, vor fi respectate drepturile fundamentale ale omului și valorile Uniunii Europene.

Astfel, au fost luate în considerare mai multe variante prin care Inteligența Artificială ar putea deveni periculoasă și ar putea declanșa grave prejudicii oamenilor. Prin urmare, au fost interzise aplicațiile și sistemele care pot împărți sau selecta oamenii în funcție de opiniile lor politice, de religie, de orientare sexuală. De asemenea, sistemele inteligente nu vor putea culege informații legate de recunoașterea emoțională la locul de muncă.

Carmen Artigas Brugal, secretar de Stat pentru Digitalizare în guvernul Spaniei: Am obţinut dreptul să spunem că am reuşit prima reglementare internaţională a Inteligenţei Artificiale din lume.

Totuși, unele state membre ale Uniunii, între care Franța, au insistat pentru includerea unor excepții în textul regulamentului. Excepțiile se referă la folosirea sistemelor de Inteligență Artificială în scopuri militare sau de apărare.

”Istoric! UE devine primul continent care a stabilit reguli clare pentru utilizarea IA”, a salutat comisarul european Thierry Breton, la originea proiectului prezentat în aprilie 2021. De atunci, discuţiile s-au prelungit.

Procesul a fost afectat la sfârşitul anului trecut de apariţia ChatGPT, generatorul de texte al companiei californiene OpenAI, capabil să scrie disertaţii, poezii sau să facă traduceri în câteva secunde. Acest sistem, ca şi cele capabile să creeze sunete sau imagini, a dezvăluit publicului larg potenţialul imens al IA, dar şi anumite riscuri. Distribuirea pe reţelele de socializare a unor fotografii false a atras atenţia asupra pericolului manipulării opiniei publice.

Acest fenomen de IA generativă a fost integrat în negocierile curente la cererea europarlamentarilor care insistă asupra supravegherii specifice pentru acest tip de tehnologie de mare impact. Ei au cerut în special mai multă transparenţă în ceea ce priveşte algoritmii şi bazele de date gigantice aflate în centrul acestor sisteme.

Statele membre s-au temut că o reglementare excesivă îi va distruge din start pe campionii lor emergenţi, precum Aleph Alpha în Germania şi Mistal AI în Franţa, făcând costurile de dezvoltare să fie prohibitive.

Acordul politic la care s-a ajuns vineri seara trebuie completat de o muncă tehnică în vederea finalizării textului.”Vom analiza cu atenţie compromisul găsit astăzi şi ne vom asigura în următoarele săptămâni că textul păstrează capacitatea Europei de a-şi dezvolta propriile tehnologii de inteligenţă artificială şi îi păstrează autonomia strategică”, a răspuns ministrul francez al Digitalului, Jean-Noël Barrot.

Sectorul tehnologiei este unul critic.”Viteza pare să fi prevalat asupra calităţii, cu consecinţe potenţial dezastruoase pentru economia europeană”, a declarat Daniel Friedlaender, managerul pentru Europa al CCIA, unul din principalele sale lobby-uri. Potrivit acestuia, o „muncă tehnică” este acum „necesară” pentru detalii cruciale.

În privinţa IA generative, compromisul prevede o abordare cu două viteze. Se vor impune tuturor reguli pentru a asigura calitatea datelor utilizate în dezvoltarea algoritmilor şi pentru a se verifica că nu încalcă legislaţia privind drepturile de autor. De asemenea, dezvoltatorii vor trebui să se asigure că sunetele, imaginile şi textele produse sunt clar identificate ca fiind artificiale. Constrângerile consolidate se vor aplica numai celor mai puternice sisteme.

Textul preia principiile reglementărilor europene existente în materie de securitate a produselor, care impun controale bazate în primul rând pe companii.

Nucleul proiectului constă dintr-o listă de reguli impuse doar sistemelor considerate ca având un „risc ridicat”, în esenţă cele utilizate în domenii sensibile precum infrastructura critică, educaţia, resursele umane sau aplicarea legii.

Aceste sisteme vor fi supuse unei serii de obligaţii precum asigurarea unui control uman asupra maşinii, întocmirea unei documentaţii tehnice sau chiar stabilirea unui sistem de gestionare a riscurilor.

Legislaţia prevede o supraveghere specifică a sistemelor de IA care interacţionează cu oamenii şi le va obliga să informeze utilizatorul că se află în contact cu o maşină.

Interdicţiile vor fi rare şi vor viza aplicaţii contrare valorilor europene precum evaluarea cetăţenilor sau sistemele de supraveghere în masă utilizate în China, sau chiar identificarea biometrică de la distanţă a persoanelor în locuri publice pentru a evita supravegherea în masă a populaţiei. Referitor la cel din urmă aspect, statele au obţinut însă scutiri pentru anumite misiuni de aplicare a legii, cum ar fi lupta împotriva terorismului.

Spre deosebire de codurile de conduită voluntare ale anumitor ţări, legislaţia europeană va fi dotată cu mijloace de supraveghere şi cu sancţiuni odată cu crearea unui birou european al IA în cadrul Comisiei Europene. Pentru cele mai grave infracţiuni vor putea fi aplicate amenzi de până la 7% din cifra de afaceri, cu un plafon de 35 de milioane de euro.