Instituțiile UE au identificat 186 de sisteme AI, iar EDPS devine supraveghetorul lor sub AI Act

Instituțiile, agențiile și organismele Uniunii Europene au raportat aproximativ 186 de sisteme de inteligență artificială aflate în uz sau planificate, potrivit European Data Protection Supervisor. O parte mare dintre aceste sisteme sunt încă în fază pilot sau de dezvoltare, dar numărul arată că administrația europeană a intrat deja în etapa în care AI trebuie supravegheată nu doar ca instrument tehnologic, ci ca risc instituțional, juridic și democratic.

Pe scurt

1. EDPS a identificat aproximativ 186 de sisteme AI folosite sau planificate în instituțiile, agențiile și organismele UE.

2. Multe sisteme sunt încă în fază pilot sau de dezvoltare, iar AI generativă apare ca tehnologie dominantă.

3. Odată cu AI Act, EDPS devine autoritate de supraveghere a pieței pentru sistemele AI ale instituțiilor UE.

4. EDPS poate impune amenzi administrative în anumite condiții și acționează ca organism notificat pentru unele sisteme AI cu risc ridicat.

5. Cele mai multe cazuri cu risc ridicat identificate apar în spațiul de libertate, securitate și justiție, precum și în ocuparea forței de muncă și recrutare.

Wojciech Wiewiórowski, European Data Protection Supervisor, scrie în ECA Journal că intrarea în vigoare a AI Act a schimbat profund rolul instituției sale. EDPS rămâne autoritatea care supraveghează protecția datelor personale în instituțiile europene, dar primește și o misiune nouă: monitorizarea aplicării AI Act pentru sistemele AI dezvoltate sau folosite de instituțiile, organismele, oficiile și agențiile UE.

Această schimbare contează deoarece administrația europeană nu mai este doar un legiuitor sau supraveghetor al inteligenței artificiale folosite de companii. Ea devine utilizator direct al AI. Sistemele pot fi folosite pentru chatboți generativi, sprijin administrativ, automatizarea unor procese, analiză de documente, recrutare, gestionarea cazurilor sau servicii publice interne.

EDPS spune că evoluția tehnologică a accelerat puternic în ultimii ani, iar aplicațiile din sectorul public merg de la chatboți generativi și agenți AI până la sisteme care asistă administrația în luarea deciziilor sau optimizează furnizarea serviciilor. Un raport european citat de EDPS indică faptul că 70% dintre administrațiile publice au implementat deja sau intenționează să implementeze AI generativă în următorii trei ani.

În instituțiile UE, imaginea este similară. Exercițiul de cartografiere făcut de EDPS în 2025 a identificat aproximativ 186 de sisteme AI, în uz sau planificate. Multe dintre ele erau încă în fază pilot sau de dezvoltare, ceea ce arată o administrație care experimentează intens, dar își construiește încă structurile interne de guvernanță și control.

Cartografierea a arătat și că ecosistemul AI al instituțiilor UE este foarte eterogen. Sistemele folosesc tehnici diferite, sunt găzduite în medii diferite și implică roluri diferite pentru instituțiile europene. Unele aplicații rulează local, altele folosesc cloud public sau privat, iar multe combină mai multe tipuri de infrastructură.

Un punct important este că instituțiile UE sunt mai des utilizatori decât dezvoltatori de AI. Cele mai multe folosesc instrumente dezvoltate de furnizori externi, inclusiv soluții disponibile pe piață. EDPS subliniază că această realitate nu reduce responsabilitatea instituțiilor europene pentru modul în care sistemele sunt folosite. Chiar dacă tehnologia este cumpărată de la un terț, instituția care o folosește rămâne responsabilă pentru implementare, riscuri și efecte.

În zona sistemelor cu risc ridicat, EDPS a identificat concentrații mai mari în spațiul de libertate, securitate și justiție, precum și în ocuparea forței de muncă și recrutare. Aceste domenii sunt sensibile deoarece deciziile pot afecta drepturi, acces la oportunități, securitate, mobilitate, statut profesional sau tratamentul unei persoane de către administrație.

AI Act nu interzice sistemele cu risc ridicat, dar le supune unor obligații mai stricte. Acestea includ guvernanță, evaluări, documentare, supraveghere umană și control al riscurilor. EDPS spune că exercițiul de cartografiere a ajutat la clarificarea locurilor unde pot apărea astfel de sisteme și la demistificarea noțiunii de „high-risk AI”.

Pentru a-și pregăti noul mandat, EDPS a publicat un document strategic numit EDPS Compass. Acesta explică modul în care instituția vrea să își îndeplinească rolul sub AI Act prin patru direcții: supravegherea sistemelor AI ale instituțiilor UE, contribuția la guvernanța AI Act și coordonarea reglementării, sprijinirea instituțiilor pentru AI de încredere și cooperarea internațională.

EDPS spune că nu va adopta o poziție pasivă. Supravegherea sistemelor AI ale instituțiilor UE va presupune control continuu, pentru a înțelege devreme cum funcționează aceste sisteme în practică și unde apar riscurile. Ideea este ca problemele să fie identificate înainte să se transforme în incidente grave sau în încălcări ale drepturilor.

Noul rol cere și capacități interne diferite. EDPS a creat o unitate responsabilă de atribuțiile sale sub AI Act, separată organizațional și funcțional de structura care se ocupă de protecția datelor. Această separare este importantă deoarece supravegherea AI combină dreptul datelor, analiza tehnică, verificarea conformității, supravegherea pieței și înțelegerea riscurilor pentru drepturile fundamentale.

EDPS rămâne totuși și autoritate de protecție a datelor. Orice prelucrare de date personale făcută în dezvoltarea sau utilizarea unui sistem AI de către instituțiile UE rămâne sub supravegherea sa. Wiewiórowski amintește că autoritățile de protecție a datelor reglementau deja AI înainte de intrarea în vigoare a AI Act, prin ghiduri și acțiuni de aplicare a regulilor de protecție a datelor.

Pentru instituțiile UE, EDPS a publicat orientări privind folosirea sistemelor de AI generativă în conformitate cu regulile de protecție a datelor și ghiduri pentru gestionarea riscurilor tehnice asociate AI. Aceste documente ar trebui să ajute administrația europeană să evite introducerea rapidă a unor instrumente fără garanții suficiente.

Un alt instrument este rețeaua AI Act Correspondents Network, creată pentru experții AI din instituțiile UE. Rețeaua permite schimb de bune practici, consolidarea expertizei și sprijin de conformare. Într-un ecosistem în care zeci de instituții testează sau folosesc sisteme diferite, cooperarea devine esențială pentru a evita reguli aplicate inegal și soluții izolate.

EDPS participă și la guvernanța europeană a AI Act. Are rol de observator în AI Board, grupul de experți care sprijină aplicarea actului, și este membru al Administrative Cooperation Group, care reunește autoritățile de supraveghere a pieței. Wiewiórowski spune că această cooperare este necesară deoarece riscurile AI evoluează rapid și nu pot fi gestionate de o singură autoritate.

În octombrie 2025, EDPS a lansat și un proiect-pilot AI Sandbox. Acesta oferă instituțiilor UE un spațiu voluntar în care pot testa și valida sisteme AI sub îndrumare de reglementare înainte de utilizarea lor efectivă. Scopul este identificarea problemelor de conformare devreme, înainte ca ajustările să devină costisitoare sau dificil de făcut.

Interesul pentru sandbox a fost foarte mare, potrivit EDPS. Acest lucru arată că instituțiile UE au nevoie de sprijin practic, nu doar de obligații juridice. AI Act creează reguli, dar aplicarea lor cere oameni, proceduri, testare, documentare, capacitate tehnică și înțelegerea riscurilor concrete.

EDPS arată că lunile și anii următori vor fi decisivi pentru stabilirea unui ecosistem AI european care respectă drepturile fundamentale și pune în centru sănătatea și siguranța cetățenilor. Pentru administrația UE, problema nu este doar adoptarea tehnologiei, ci folosirea ei într-un mod care poate fi verificat, contestat și explicat.

Cazul instituțiilor UE arată că AI Act nu este doar o lege pentru platforme, companii sau furnizori de tehnologie. El se aplică și administrației europene, care folosește tot mai multe sisteme AI, dar trebuie să rămână responsabilă pentru efectele lor.

Cele 186 de sisteme identificate de EDPS sunt un semnal că inteligența artificială intră rapid în munca instituțională a UE. Supravegherea va trebui să țină pasul cu această schimbare, mai ales acolo unde AI este folosită în domenii sensibile precum justiția, securitatea, ocuparea forței de muncă și recrutarea.