AI Office poate cere informații, evalua modele și solicita măsuri de reducere a riscurilor de la furnizorii GPAI

Comisia Europeană poate aplica din 2 august 2026 obligațiile AI Act pentru furnizorii de modele de inteligență artificială de uz general, iar AI Office poate solicita informații, poate efectua evaluări ale modelelor și poate cere furnizorilor măsuri pentru reducerea riscurilor. Comisia a invocat noile competențe la briefingul din 11 august, într-un răspuns privind riscurile de manipulare prin boți, conturi false și conținut generat de inteligență artificială.

Noile competențe de aplicare reprezintă o etapă distinctă în implementarea AI Act. Regulile pentru furnizorii de modele de inteligență artificială de uz general, cunoscute ca GPAI, au început să se aplice la 2 august 2025, dar primul an a fost conceput în principal ca perioadă de implementare și cooperare cu furnizorii.

De la 2 august 2026, Comisia poate trece la aplicarea efectivă a acestor obligații și poate utiliza competențele de supraveghere prevăzute pentru modelele GPAI.

AI Office este structura Comisiei responsabilă în special de supravegherea modelelor de inteligență artificială de uz general. Printre competențele sale se numără solicitarea de informații de la furnizori și evaluarea modelelor atunci când acest lucru este necesar pentru verificarea respectării regulilor.

Oficiul poate cere și măsuri din partea furnizorilor. În cazul modelelor care prezintă riscuri sistemice, acestea pot include măsuri tehnice sau organizaționale pentru reducerea riscurilor identificate.

În situațiile prevăzute de AI Act, Comisia poate solicita inclusiv retragerea unui model de pe piață și poate impune amenzi pentru nerespectarea obligațiilor.

Furnizorii de modele GPAI trebuie să păstreze documentație tehnică despre modelele lor și să o pună la dispoziția AI Office atunci când aceasta este solicitată. Ei trebuie să furnizeze și informații relevante dezvoltatorilor care construiesc sisteme AI pe baza acestor modele.

Regulile includ și obligații privind respectarea drepturilor de autor și publicarea unui rezumat suficient de detaliat al conținutului folosit pentru antrenarea modelului.

Modelele GPAI considerate ca având risc sistemic sunt supuse unor cerințe suplimentare. Furnizorii trebuie să evalueze și să reducă riscurile sistemice, să urmărească și să raporteze incidentele grave și să mențină un nivel adecvat de securitate cibernetică.

Competențele de enforcement intrate în aplicare în august permit Comisiei să verifice mai direct dacă aceste obligații sunt respectate.

La briefingul din 11 august, Comisia a prezentat noile puteri ale AI Office după ce a fost întrebată dacă cetățenii pot considera că există suficiente garanții împotriva manipulării alegerilor prin boți, conturi false, avataruri și alte instrumente bazate pe AI.

Întrebarea a vizat și posibilitatea ca sistemele automate să influențeze sondaje de opinie sau să manipuleze consultările publice ale instituțiilor europene.

Comisia nu a anunțat în răspuns o investigație privind un caz concret și nici nu a spus că a identificat manipularea unei consultări publice prin inteligență artificială.

Purtătorul de cuvânt a indicat, în schimb, instrumentele care au devenit disponibile sau aplicabile de la 2 august.

Pe lângă competențele de supraveghere asupra modelelor GPAI, de la aceeași dată au început să se aplice noi obligații de transparență pentru anumite sisteme de inteligență artificială.

Aceste reguli urmăresc ca oamenii să poată recunoaște anumite situații în care interacționează cu un sistem AI sau sunt expuși unui conținut generat ori manipulat artificial.

Furnizorii unor sisteme AI trebuie să se asigure că utilizatorii sunt informați atunci când interacționează direct cu inteligența artificială.

Pentru anumite sisteme generative, AI Act prevede și utilizarea unor marcaje care pot fi detectate automat pentru conținutul generat sau manipulat artificial.

Există și obligații pentru cei care utilizează profesional anumite sisteme AI. Acestea privesc, printre altele, informarea publicului atunci când este expus la deepfake-uri sau, în anumite condiții, la texte generate ori manipulate prin AI și publicate pentru informarea publicului asupra unor chestiuni de interes public.

Regulile de transparență și regimul GPAI sunt două componente diferite ale AI Act.

Competențele AI Office privind modelele GPAI se concentrează asupra furnizorilor și asupra riscurilor asociate modelelor de uz general. Obligațiile de transparență urmăresc în principal ca oamenii să știe când interacționează cu anumite sisteme AI sau când anumite materiale au fost produse ori modificate artificial.

Faptul că ambele etape au un reper important la 2 august 2026 nu înseamnă că sunt aceeași obligație sau că sunt aplicate în toate cazurile de aceeași autoritate.

Pentru regulile de transparență, supravegherea revine în principal autorităților naționale de supraveghere a pieței. AI Office intervine pentru sistemele care intră în competența sa, iar Autoritatea Europeană pentru Protecția Datelor are rolul corespunzător atunci când instituțiile UE sunt furnizori sau utilizatori ai sistemelor respective.

Comisia consideră că aceste obligații pot reduce riscul de inducere în eroare, deoarece utilizatorii primesc mai multe informații despre natura sistemului sau a conținutului cu care interacționează.

La briefing, purtătorul de cuvânt a legat aceste cerințe de posibilitatea ca cetățenii să recunoască interacțiunile cu inteligența artificială și conținutul generat sau modificat prin AI.

Comisia nu a spus însă că etichetarea conținutului sau noile puteri ale AI Office pot preveni orice tentativă de manipulare a alegerilor.

AI Act oferă instrumente pentru supravegherea modelelor și pentru transparența anumitor utilizări, în timp ce alte riscuri legate de platforme, campanii de influență, dezinformare sau procese electorale pot intra și sub alte reguli europene și naționale.

Noile competențe permit însă trecerea de la perioada inițială de implementare a regulilor GPAI la o etapă în care furnizorii pot fi investigați și sancționați dacă nu respectă obligațiile aplicabile.

AI Act a intrat în vigoare în 2024, iar diferitele sale obligații sunt aplicate treptat. Pentru furnizorii de modele de inteligență artificială de uz general, cerințele relevante se aplică din 2 august 2025.

La 2 august 2026 au devenit aplicabile competențele Comisiei de a asigura respectarea acestor obligații, inclusiv prin solicitări de informații, evaluări ale modelelor, măsuri cerute furnizorilor și sancțiuni.

În aceeași zi au început să se aplice și obligațiile de transparență pentru anumite sisteme și tipuri de conținut AI.

Declarațiile Comisiei din 11 august nu anunță un nou set de reguli adoptat în acea zi. Ele clarifică instrumentele care au devenit efectiv aplicabile cu nouă zile înainte, într-un răspuns privind riscurile de manipulare și de inducere în eroare prin inteligență artificială.