AFCO propune control uman asupra AI, protejarea alegerilor și reguli globale inspirate de cooperarea nucleară

Inteligența artificială folosită de instituțiile Uniunii Europene ar trebui să rămână sub control uman, iar Europa ar trebui să-și dezvolte atât capacitatea de a proteja alegerile și procesele democratice, cât și un rol mai puternic în stabilirea regulilor globale pentru AI. Aceste direcții se regăsesc în compromisurile discutate de Comisia pentru afaceri constituționale a Parlamentului European, AFCO, într-un raport care propune inclusiv explorarea unui cadru internațional de guvernanță inspirat de cooperarea din domeniul nuclear.

Raportul pornește de la ideea că utilizarea AI în instituțiile europene poate aduce beneficii concrete, de la analiză legislativă mai rapidă și redactare asistată până la cooperare multilingvă mai eficientă. În același timp, eurodeputații care au negociat compromisul insistă că asemenea instrumente nu trebuie să preia responsabilitatea pentru decizii politice, administrative sau juridice.

În intervenția S&D, Vitenys Povilas Andriukaitis a susținut că folosirea AI în procese cu relevanță constituțională ridică întrebări privind locul în care se termină judecata umană și începe intervenția automatizată. El a cerut supraveghere umană, drept la explicație și posibilitatea revizuirii de către oameni a deciziilor automate, astfel încât instituțiile să rămână responsabile pentru rezultatele sistemelor pe care le folosesc.

ECR a susținut aceeași idee de bază și a insistat că AI nu trebuie să înlocuiască supravegherea umană. Grupul a legat controlul uman de existența unor mecanisme de răspundere și contestare, precum și de protejarea drepturilor fundamentale în situații în care sistemele automate pot produce discriminare, pot facilita furtul de date sau al identității vizuale ori pot genera conținut manipulat.

Protecția alegerilor este una dintre componentele centrale ale raportului. Raportorul Emmanuel Kefalogiannis a menționat dezinformarea, deepfake-urile, ingerința străină și manipularea drept riscuri pe care AI le poate amplifica în procesele democratice. Textul încearcă însă să evite prezentarea tehnologiei exclusiv ca amenințare și susține că AI poate fi folosită și pentru consolidarea capacității instituțiilor de a identifica și contracara asemenea riscuri.

ECR a insistat că opiniile politice ale cetățenilor nu trebuie să devină ținte ale algoritmilor sau ale conținutului manipulat cu AI și că integritatea proceselor electorale trebuie protejată împotriva interferențelor tehnologice. Această preocupare este una dintre explicațiile pentru propunerea de a dezvolta în interiorul Parlamentului o capacitate proprie de analiză a efectelor inteligenței artificiale.

Raportul păstrează astfel ideea unui observator parlamentar AI care ar urmări implicațiile instituționale și constituționale ale tehnologiei și impactul acesteia asupra democrației, proceselor decizionale și integrării europene. Raportorul a precizat că o asemenea structură nu ar trebui să dubleze organismele deja existente, dar a susținut că Parlamentul are nevoie de propria capacitate de a înțelege evoluțiile tehnologice.

Propunerea observatorului nu are însă sprijin unanim. Patriots for Europe a salutat eliminarea din versiunea negociată a referirilor la o posibilă modificare a tratatelor UE și a avertizat că o nouă structură ar putea adăuga birocrație sau duplica mecanisme existente. Grupul consideră că prioritatea ar trebui să fie aplicarea regulilor deja adoptate.

O critică mai dură a venit din partea ESN. Christine Anderson a argumentat că apariția unei tehnologii noi nu poate constitui în sine o nouă competență pentru Uniune și s-a opus ideii ca un eventual observator să ajungă să monitorizeze partide politice, alegeri sau discursul public. Ea a susținut că AI poate fi folosită pentru a sprijini funcțiile existente ale Parlamentului, dar nu pentru extinderea rolului instituțional al UE.

Raportul merge însă dincolo de funcționarea internă a instituțiilor și propune ca UE să promoveze și o arhitectură internațională de guvernanță pentru AI. Kefalogiannis a susținut explorarea unui cadru inspirat de experiența cooperării internaționale din domeniul nuclear, argumentând că inteligența artificială nu poate fi administrată eficient doar prin reguli naționale sau regionale.

În această abordare, un viitor cadru global ar trebui să se bazeze pe principii comune, transparență, siguranță și control uman. Ideea nu presupune copierea instituțiilor construite în jurul tehnologiilor nucleare, ci folosirea experienței lor ca model pentru coordonarea internațională într-un domeniu cu efecte care depășesc frontierele.

Renew a introdus în această discuție o propunere mai specifică. Grupul susține ca UE să promoveze la nivelul ONU un tratat internațional privind neproliferarea sistemelor AI cu risc ridicat și a capacităților considerate deosebit de periculoase. Obiectivul ar fi prevenirea dezvoltării și utilizării necontrolate a unor tehnologii avansate și introducerea unor mecanisme comune de supraveghere și siguranță.

Dimensiunea globală este legată și de poziția tehnologică a Europei. Raportorul a avertizat că UE nu poate avea o putere reală de reglementare dacă nu dispune și de capacitatea de a dezvolta tehnologiile pe care dorește să le guverneze. El a invocat decalajul de investiții față de Statele Unite și a prezentat investițiile în capacitate de calcul, infrastructură și gigafabrici AI drept proiecte strategice pentru competitivitate și suveranitate tehnologică.

În dezbatere s-a susținut și că dependența de centre de date, platforme sau sisteme dezvoltate în alte jurisdicții poate limita autonomia de reglementare a Uniunii. Raportul încearcă astfel să lege controlul democratic de capacitatea tehnologică proprie și de poziția Europei în competiția globală privind AI.

Dimensiunea socială completează această abordare. Kefalogiannis a susținut că AI trebuie să sprijine și să consolideze capacitatea lucrătorilor și că transformarea economică trebuie însoțită de investiții în competențe și educație. Raportul respinge ideea ca responsabilitatea pentru efectele sistemelor AI să fie transferată utilizatorilor, consumatorilor sau angajaților.

În această parte a dezbaterii, Clara Dobrev, din S&D, a mers mai departe și a avertizat că dezvoltarea AI controlată în principal de marile companii poate concentra atât bogăția, cât și puterea politică, poate accelera pierderea unor locuri de muncă și poate afecta stabilitatea socială. Aceasta este însă poziția sa politică exprimată în cadrul dezbaterii, nu o concluzie comună a raportului.

Raportul discutat de AFCO nu reprezintă încă poziția Parlamentului European. Compromisurile au fost negociate între raportor și raportorii alternativi, iar votul în comisie este programat pentru 1 octombrie. Dacă textul este adoptat, votul final în Parlament este așteptat în a doua sesiune plenară din octombrie.

Cele mai ambițioase elemente, inclusiv observatorul parlamentar și ideea unui tratat internațional pentru sistemele AI cu risc ridicat, rămân astfel propuneri aflate în procesul parlamentar și nu decizii deja asumate de Uniunea Europeană.