Eurodeputații cer control uman asupra AI și reguli internaționale pentru protejarea democrației

Instituțiile Uniunii Europene ar trebui să păstreze controlul uman asupra utilizării inteligenței artificiale, iar Parlamentul European ar trebui să evalueze sistematic efectele AI asupra alegerilor, dezinformării și funcționării democrației, potrivit unui raport adoptat de Comisia pentru afaceri constituționale. Documentul merge dincolo de regulile tehnice pentru sistemele AI și propune inclusiv un acord internațional asupra riscurilor de securitate și societale, noi protecții fundamentale și crearea unui observator AI în interiorul Parlamentului.

Raportul, pregătit de eurodeputatul Manolis Kefalogiannis din PPE, Grecia, pornește de la ideea că dezvoltarea inteligenței artificiale a devenit și o problemă constituțională. Utilizarea sistemelor AI poate afecta modul în care sunt luate deciziile publice, modul în care cetățenii primesc informații și chiar raportul dintre instituții, administrație și controlul democratic.

AFCO cere ca instituțiile europene să aplice ele însele standardele pe care Uniunea le promovează pentru utilizarea responsabilă a inteligenței artificiale. Sistemele folosite în administrația europeană ar trebui să rămână sub supraveghere umană și să respecte protecția datelor cu caracter personal și celelalte valori fundamentale ale UE.

Raportul pledează în același timp pentru acordarea unei priorități instrumentelor AI europene în instituțiile Uniunii și pentru investiții coordonate care să permită dezvoltarea capacităților tehnologice proprii. Obiectivul este legat de ceea ce eurodeputații descriu drept autonomie digitală strategică.

Această abordare nu înseamnă eliminarea tehnologiilor dezvoltate în afara UE prin efectul raportului. Documentul formulează o orientare politică pentru utilizarea și achiziționarea tehnologiei de către instituțiile europene, nu o interdicție generală asupra sistemelor AI din afara Uniunii.

O parte importantă a raportului privește democrația electorală. AFCO cere Parlamentului să evalueze în mod sistematic atât riscurile, cât și oportunitățile produse de AI pentru procesele democratice.

Printre riscurile enumerate se află dezinformarea, manipularea informațională, ingerințele străine, încălcarea vieții private și utilizarea conținutului sintetic pentru influențarea alegătorilor. Deepfake-urile sunt tratate drept un exemplu al modului în care tehnologia poate face mai dificilă distincția dintre materiale autentice și conținut generat artificial.

Raportul nu prezintă însă AI exclusiv ca amenințare. Eurodeputații consideră că sistemele utilizate transparent și cu mecanisme de responsabilitate pot îmbunătăți participarea cetățenilor și pot ajuta administrațiile și legislatorii să gestioneze volume mari de informații.

AFCO consideră că actualul cadru electoral european este din ce în ce mai greu de aplicat unor riscuri care se dezvoltă odată cu inteligența artificială. Este una dintre explicațiile pentru care raportul tratează problema dincolo de actualul AI Act.

Regulamentul european privind inteligența artificială este deja cadrul general pentru introducerea pe piață și utilizarea sistemelor AI în Uniune. Raportul AFCO nu îl înlocuiește și nu modifică prin el însuși regulile sale. El se concentrează asupra unor aspecte instituționale și democratice pe care comisia parlamentară consideră că actualul cadru nu le acoperă suficient.

Una dintre cele mai ample propuneri este inițierea unei discuții privind noi protecții în Carta drepturilor fundamentale a UE. Documentul menționează protecția identității și imaginii personale, transparența algoritmică, autodeterminarea digitală, protecția împotriva discriminării algoritmice și principiul răspunderii pentru prejudiciile produse.

Aceste formulări nu reprezintă drepturi noi introduse deja în Cartă. Votul AFCO exprimă solicitarea politică de a modifica sau completa cadrul existent. Carta rămâne în forma sa juridică actuală până la o eventuală procedură distinctă de modificare.

Dimensiunea internațională este una dintre cele mai neobișnuite componente ale raportului. Eurodeputații cer UE să promoveze un acord internațional pentru tehnologiile AI care pot genera riscuri majore de securitate sau efecte societale.

Comisia parlamentară folosește regimul de neproliferare nucleară drept sursă de inspirație pentru ideea unei arhitecturi internaționale de control. Comparația privește necesitatea cooperării între state pentru gestionarea unei tehnologii cu efecte transfrontaliere și nu echivalează riscurile inteligenței artificiale cu cele ale armelor nucleare.

Raportul nu anunță existența unui tratat aflat deja în negociere și nici nu mandatează Comisia Europeană să semneze un asemenea acord. Este o solicitare politică adresată UE de a încerca să joace un rol de lider în construirea unor reguli globale.

AFCO cere simultan ca eventualele garanții să nu blocheze inutil inovarea sau competitivitatea. Documentul încearcă astfel să combine cererea pentru reguli și responsabilitate democratică cu preocuparea pentru capacitatea companiilor europene de a dezvolta tehnologie competitivă.

La nivelul Parlamentului, raportul propune crearea unui observator AI propriu. Structura ar urma să utilizeze expertiza deja disponibilă și să funcționeze fără resurse bugetare suplimentare.

Observatorul nu ar fi o autoritate de reglementare și nu ar primi competențe pentru autorizarea sau sancționarea sistemelor AI. Rolul său ar fi de sprijin pentru activitatea comisiilor parlamentare.

Printre atribuțiile sugerate se numără evaluarea după adoptare a legislației, monitorizarea practicilor instituțiilor europene și analiza efectelor AI asupra echilibrului instituțional și proceselor democratice.

Observatorul ar putea identifica și suprapuneri, lacune sau contradicții între diferitele acte europene care reglementează direct sau indirect utilizarea inteligenței artificiale. O altă funcție ar fi dezvoltarea competențelor tehnice ale Parlamentului, astfel încât eurodeputații să poată exercita un control mai informat asupra politicilor AI.

Raportul vede și un rol direct pentru inteligența artificială în procesul legislativ. Instrumentele AI ar putea fi folosite pentru identificarea inconsistențelor dintre acte, a obligațiilor suprapuse, a fragmentării juridice sau a situațiilor în care legislația națională adaugă cerințe peste standardul european.

AI ar putea contribui și la analiza probelor, evaluarea legislației existente și identificarea domeniilor în care simplificarea este posibilă. Raportul stabilește însă o limită politică explicită: asemenea instrumente trebuie să asiste procesul decizional, nu să îl preia.

Deciziile politice nu ar trebui luate exclusiv automat, iar responsabilitatea pentru ele trebuie să rămână la reprezentanții și instituțiile care au primit competența de a decide.

Manolis Kefalogiannis a sintetizat abordarea afirmând că obiectivul este ca AI „să rămână un instrument în serviciul oamenilor, democrațiilor și valorilor noastre”.

Adoptarea din AFCO nu transformă aceste propuneri în poziție definitivă a Parlamentului. Raportul urmează să ajungă în plen în sesiunea din 19–22 octombrie, unde eurodeputații pot confirma, modifica sau respinge textul.