Chatboții trebuie să spună că sunt AI, iar deepfake-urile să fie etichetate în UE de la 2 august

Chatboții și alte sisteme AI care interacționează direct cu oamenii trebuie să îi informeze că discută cu o mașină, iar deepfake-urile trebuie etichetate ca fiind generate sau modificate artificial, începând cu 2 august 2026. Comisia Europeană, prin Oficiul pentru Inteligență Artificială, și autoritățile naționale încep în aceeași zi aplicarea unei noi etape a AI Act, care include cerințe pentru conținutul sintetic și controlul deplin al obligațiilor aplicabile furnizorilor de modele AI de uz general.

Obligația aplicabilă sistemelor interactive înseamnă că o persoană trebuie să știe când discută cu un chatbot, un asistent virtual sau un alt sistem automatizat, dacă acest lucru nu este deja evident pentru un utilizator rezonabil informat și atent. Informarea trebuie oferită cel târziu la prima interacțiune sau expunere la sistem.

Regula nu impune folosirea aceleiași formule în toate serviciile. Furnizorul trebuie să aleagă o metodă clară și accesibilă, adaptată contextului în care sistemul este utilizat și persoanelor cărora li se adresează.

Există excepții pentru anumite sisteme autorizate prin lege în scopul prevenirii, detectării, investigării sau urmăririi infracțiunilor. Excepția nu acoperă sistemele puse la dispoziția publicului pentru raportarea unei infracțiuni, unde oamenii trebuie să știe că interacționează cu AI.

Furnizorii sistemelor care generează sau modifică texte, imagini, înregistrări audio ori materiale video trebuie să se asigure că rezultatele sunt marcate într-un format care poate fi citit de mașini. Scopul este ca platformele, instrumentele de verificare și alte servicii să poată detecta originea artificială a conținutului.

Marcajele pot fi asociate conținutului prin metadate, filigrane sau alte soluții tehnice adecvate. Acestea trebuie să fie eficiente, interoperabile, robuste și fiabile în măsura în care acest lucru este posibil tehnic, ținând seama de natura conținutului și de tehnologiile disponibile.

Obligația nu se aplică automat fiecărei modificări minore realizate cu ajutorul AI. Sistemele care îndeplinesc funcții obișnuite de editare sau care nu modifică în mod substanțial informația și sensul materialului introdus de utilizator pot ieși din domeniul acestei cerințe.

Marcajul detectabil automat și eticheta vizibilă sunt obligații diferite. Furnizorul sistemului este responsabil, în principal, pentru introducerea indicatorului tehnic în conținut, în timp ce persoana sau organizația care utilizează sistemul pentru publicarea materialului poate avea obligația de a informa publicul într-o formă vizibilă.

Imaginile, înregistrările audio și materialele video care constituie deepfake-uri trebuie prezentate cu o mențiune că au fost generate sau manipulate artificial. Un deepfake este un material care seamănă cu persoane, obiecte, locuri, entități sau evenimente existente și care poate determina în mod fals o persoană să creadă că este autentic.

Eticheta trebuie să fie clară și ușor de observat, fără să fie ascunsă în termeni și condiții sau într-o secțiune greu accesibilă. Modul concret de afișare poate varia în funcție de format, mediul de publicare și riscul ca materialul să inducă publicul în eroare.

Pentru opere artistice, creative, satirice sau ficționale, obligația poate fi îndeplinită într-un mod care nu împiedică inutil prezentarea sau aprecierea operei. Publicul trebuie totuși informat în mod adecvat despre caracterul artificial al materialului.

Regulile se aplică și textelor generate sau modificate cu AI și publicate pentru a informa publicul asupra unor chestiuni de interes public. Acestea trebuie prezentate ca fiind create sau modificate artificial atunci când nu au trecut printr-un proces de verificare umană ori control editorial.

Etichetarea nu este obligatorie pentru un text de interes public dacă acesta a fost verificat de o persoană, există control editorial, iar o persoană fizică sau juridică își asumă responsabilitatea editorială pentru publicare. Folosirea AI într-o redacție nu face, prin urmare, ca fiecare articol asistat tehnologic să necesite automat o etichetă.

Persoanele expuse sistemelor de recunoaștere a emoțiilor sau de clasificare biometrică trebuie, la rândul lor, informate despre utilizarea acestor tehnologii. Această obligație este distinctă de restricțiile și interdicțiile aplicabile anumitor utilizări biometrice.

Comisia a publicat înaintea intrării în aplicare a regulilor orientări pentru interpretarea cerințelor de transparență și un cod de bune practici dedicat conținutului generat cu AI. Codul este voluntar, dar oferă furnizorilor și utilizatorilor un mod comun de a demonstra că aplică obligațiile.

Prima listă publicată de Comisie cuprinde peste 180 de organizații care au semnat codul. Semnarea nu înlocuiește legislația, iar organizațiile care nu aderă rămân obligate să respecte AI Act și să poată explica autorităților ce soluții alternative folosesc.

Codul tratează aspecte precum metadatele semnate digital, marcajele care pot rezista modificării conținutului, instrumentele de detectare și modul în care etichetele trebuie prezentate utilizatorilor. Aplicarea măsurilor trebuie adaptată tipului de conținut și rolului pe care organizația îl are în lanțul AI.

Sistemele generative introduse pe piață înainte de 2 august 2026 beneficiază de o perioadă limitată, până la 2 decembrie 2026, pentru adaptarea la obligația tehnică de marcare și detectare a conținutului. Această tranziție nu amână celelalte cerințe de transparență care li se aplică.

Materialele generate și publicate înainte de 2 august nu trebuie etichetate retroactiv. Comisia încurajează aplicarea voluntară a etichetelor acolo unde acest lucru este posibil și poate reduce riscul ca un conținut artificial să fie confundat cu unul autentic.

În aceeași zi începe o nouă etapă de control asupra furnizorilor de modele AI de uz general. Aceste modele pot îndeplini mai multe tipuri de sarcini și pot fi integrate în produse, servicii, aplicații și agenți AI dezvoltați de alte companii.

Furnizorii trebuie să păstreze documentația cerută de AI Act și să ofere informații relevante autorităților și companiilor care construiesc sisteme pe baza modelelor lor. Ei trebuie să adopte o politică pentru respectarea legislației privind drepturile de autor și să publice un rezumat suficient de detaliat al conținutului utilizat pentru antrenare.

Modelele de uz general cu risc sistemic sunt supuse unor obligații suplimentare. Furnizorii trebuie să evalueze și să reducă riscurile care pot produce efecte la scară largă, să testeze modelele, să raporteze incidente grave și să asigure un nivel adecvat de securitate cibernetică.

Comisia enumeră printre riscurile relevante facilitarea unor incidente chimice, biologice, radiologice sau nucleare, activitățile cibernetice ofensatoare, manipularea nocivă, amenințările pentru drepturile fundamentale și situațiile în care un sistem AI ar putea funcționa în afara controlului uman.

Obligațiile aplicabile modelelor de uz general au început să se aplice furnizorilor de modele noi în august 2025. De la 2 august 2026, Oficiul pentru Inteligență Artificială poate controla respectarea deplină a acestora și poate folosi competențele de investigație și sancționare prevăzute de regulament.

Aplicarea regulilor este împărțită între mai multe autorități. Oficiul pentru Inteligență Artificială controlează modelele de uz general și anumite sisteme furnizate de aceeași companie care dezvoltă modelul pe care acestea sunt construite.

Oficiul supraveghează și sistemele AI integrate în platformele online foarte mari sau motoarele de căutare online foarte mari desemnate în temeiul Digital Services Act. Pentru celelalte sisteme, responsabilitatea revine în principal autorităților naționale competente.

Autoritatea Europeană pentru Protecția Datelor controlează respectarea regulilor pentru sistemele AI folosite de instituțiile, organismele, oficiile și agențiile Uniunii Europene. Funcționarea efectivă a sistemului depinde și de desemnarea și finanțarea adecvată a autorităților naționale de către statele membre.

Oficiul pentru Inteligență Artificială a lansat un instrument prin care persoanele și companiile pot raporta posibile încălcări aflate în competența sa. Angajații și colaboratorii furnizorilor pot folosi separat un canal confidențial pentru avertizori.

Companiile care construiesc aplicații sau servicii pe baza unui model de uz general au la dispoziție un canal pentru semnalarea unor posibile încălcări comise de furnizorul modelului. Oficiul afirmă că va trata confidențial informațiile primite prin aceste instrumente.

Autoritățile vor fi sprijinite de un comitet științific alcătuit din 60 de experți independenți în inteligență artificială. Grupul are rol consultativ și poate furniza expertiză pentru evaluarea modelelor, a riscurilor sistemice și a evoluțiilor tehnologice.

Profesorul de informatică Alessandro Abate de la Universitatea Oxford a fost numit consilier științific principal al Oficiului pentru Inteligență Artificială. Activitatea sa va include siguranța modelelor de uz general, testarea, evaluarea și controlul sistemelor bazate pe AI.

Vicepreședinta executivă a Comisiei Europene pentru suveranitate tehnologică, securitate și democrație, Henna Virkkunen, a declarat că începerea aplicării regulilor urmărește să combine protecția publicului cu certitudinea juridică pentru dezvoltatori și companii.

„AI is a transformative technology that can bring extraordinary benefits to our people and businesses. But we are also seeing that harms can occur if AI is not properly designed and used and the most advanced models create risks on an entirely new scale. Europe anticipated this development. With the AI Act, we established a clear, risk-based and durable framework for trustworthy AI—one that gives innovators legal certainty while protecting the public interest,” a declarat Virkkunen.

Intrarea în aplicare din 2 august nu înseamnă că toate prevederile AI Act devin simultan obligatorii. Practicile AI interzise și obligația privind alfabetizarea AI au început să se aplice în februarie 2025, iar regulile de guvernanță și obligațiile pentru modelele de uz general au devenit aplicabile în august 2025.

Regulile pentru sistemele AI cu risc ridicat utilizate în biometrie, infrastructură critică, educație, ocuparea forței de muncă, servicii esențiale, aplicarea legii, migrație și justiție vor începe să se aplice la 2 decembrie 2027.

Pentru sistemele cu risc ridicat integrate în produse reglementate, precum anumite dispozitive, utilaje sau echipamente, data aplicării este 2 august 2028. Calendarul a fost modificat prin pachetul de simplificare denumit AI Omnibus.

Noile interdicții privind sistemele care generează fără consimțământ conținut sexual explicit sau materiale care prezintă abuzuri sexuale asupra copiilor vor începe să se aplice la 2 decembrie 2026.

AI Act a intrat în vigoare la 1 august 2024 și folosește un sistem în care obligațiile cresc în funcție de riscurile produse de tehnologie. Cele mai multe sisteme cu risc minim nu sunt supuse unor cerințe detaliate, în timp ce anumite utilizări sunt interzise, iar sistemele cu risc ridicat și modelele de uz general au obligații suplimentare.

Articolul 50 al regulamentului stabilește cerințele de transparență pentru sistemele interactive, conținutul generat sau modificat artificial, deepfake-uri, recunoașterea emoțiilor, clasificarea biometrică și anumite texte de interes public. Regulile urmăresc ca o persoană să poată înțelege când comunică cu AI și când materialul pe care îl vede sau îl aude are origine artificială.