Părinții cer un rol în supravegherea AI din școli înainte ca regulile de risc ridicat să se aplice în 2027

Organizațiile de părinți ar trebui să primească un rol structurat în monitorizarea modului în care inteligența artificială este utilizată în școli și în verificarea implementării AI Act, a cerut Hind Gnani, Education Policy and Research Officer la European Parents’ Association, în cadrul EU Parliamentary Democracy Forum. Ea a argumentat că părinții observă direct modul în care instrumentele digitale sunt folosite pentru copii, în timp ce experiența lor nu este integrată în mod sistematic în controlul parlamentar și administrativ. Brando Benifei, copreședinte al grupului Parlamentului European privind implementarea AI Act, a răspuns că supravegherea va fi împărțită între nivelul european și autoritățile naționale, în funcție de tipul sistemului AI.

Intervenția European Parents’ Association a pornit de la o problemă de implementare. Gnani a arătat că instrumentele bazate pe AI intră deja în mediul educațional prin platforme de învățare, evaluare și alte servicii folosite de elevi și profesori și a ridicat problema diferențelor care pot apărea între state atunci când regulile europene sunt aplicate de autorități naționale diferite.

Pentru organizația de părinți, familiile pot furniza informații pe care un mecanism de supraveghere bazat exclusiv pe rapoarte administrative nu le surprinde întotdeauna. Părinții pot observa cum este folosit efectiv un instrument în clasă, ce fel de informație primește copilul, dacă rezultatul unei evaluări automate poate fi contestat și dacă profesorul păstrează controlul asupra unei decizii asistate de tehnologie.

Cererea formulată în forum nu vizează transferarea atribuțiilor de reglementare către organizațiile de părinți. Gnani a întrebat cum ar putea acestea să participe structural la monitorizare, astfel încât informațiile venite de la familii să poată ajunge la parlamente și la autoritățile responsabile pentru implementarea legislației. Forumul nu a stabilit un asemenea mecanism și nu a adoptat o procedură nouă de participare.

Identitatea completă a vorbitoarei, care în transcriere apare doar drept „Hind”, poate fi stabilită din structura actuală a European Parents’ Association. Organizația o identifică pe Hind Gnani drept Education Policy and Research Officer. EPA se prezintă drept o rețea europeană care reprezintă organizații de părinți și urmărește implicarea acestora în politicile care afectează educația și viața copiilor.

O precizare juridică este însă importantă. În intervenție, educația este descrisă într-o formulare generală drept domeniu cu risc ridicat. AI Act nu spune că orice chatbot, platformă de învățare, instrument de redactare sau aplicație AI introdusă într-o școală devine automat sistem cu risc ridicat.

Anexa III a regulamentului enumeră utilizări educaționale precise. Sunt incluse sistemele destinate să determine accesul sau admiterea într-o instituție de educație sau formare, cele care evaluează rezultatele învățării atunci când această evaluare influențează parcursul educațional, sistemele care stabilesc nivelul de educație pe care îl poate urma o persoană și cele utilizate pentru monitorizarea și detectarea comportamentelor interzise în timpul testelor.

Diferența este importantă pentru școli. Un instrument care organizează documente sau ajută profesorul să pregătească o evaluare fără să influențeze el însuși decizia privind elevul poate să nu intre în categoria sistemelor cu risc ridicat. În schimb, un sistem care analizează rezultatele unui elev și contribuie la stabilirea notei finale, a nivelului de studiu sau a accesului la un program poate intra în domeniul reglementat.

Regulile specifice acestor sisteme nu sunt încă pe deplin aplicabile. În urma modificării calendarului AI Act prin pachetul de simplificare adoptat în 2026, cerințele pentru sistemele cu risc ridicat prevăzute în Anexa III se aplică de la 2 decembrie 2027. Pentru sistemele AI cu risc ridicat integrate în produse reglementate, termenul este 2 august 2028.

Pentru sistemele cu risc ridicat, furnizorii vor trebui să îndeplinească cerințe privind gestionarea riscurilor, calitatea datelor, documentarea, înregistrarea activității, informațiile furnizate utilizatorului, supravegherea umană, robustețea, acuratețea și securitatea cibernetică. Aceste obligații încearcă să reducă riscul ca o decizie importantă privind accesul sau parcursul educațional să fie luată printr-un sistem insuficient documentat ori imposibil de verificat.

Benifei a legat tocmai acest calendar de problema controlului parlamentar. În răspunsul său, el a susținut că parlamentele trebuie să solicite informații de la autoritățile naționale despre modul în care legislația este implementată și să urmărească dacă organismele responsabile au resursele și instrumentele necesare pentru aplicare.

El a indicat finalul lui 2027 drept momentul în care obligațiile pentru utilizările cu risc ridicat din educație vor deveni efective. Calendarul juridic actualizat oferă data exactă de 2 decembrie 2027 pentru sistemele din Anexa III.

Structura de aplicare este împărțită între nivelul european și cel național. Autoritățile de supraveghere a pieței desemnate de statele membre verifică și aplică regulile pentru sistemele AI, inclusiv cerințele aferente sistemelor cu risc ridicat. Acestea pot investiga neconformități și pot solicita acces la documente, seturi de date și, în condițiile prevăzute de lege, codul sursă.

AI Office, aflat în cadrul Comisiei Europene, are atribuții distincte. El supraveghează în principal modelele de inteligență artificială de uz general și are anumite competențe suplimentare pentru sisteme construite pe asemenea modele atunci când sunt îndeplinite condițiile prevăzute de regulament. Prin urmare, afirmația că supravegherea utilizării AI în școli aparține în general AI Office ar fi prea largă.

Pentru majoritatea utilizărilor educaționale clasificate ca risc ridicat, autoritatea relevantă va fi cea desemnată în statul membru. Comisia menține o listă a punctelor naționale de contact și a autorităților de supraveghere, iar configurația instituțională nu este identică în toate cele 27 de state.

Acest sistem explică preocuparea European Parents’ Association privind posibile diferențe de implementare. AI Act este un regulament direct aplicabil, iar cerințele juridice sunt comune, dar activitatea de control, investigațiile, resursele disponibile și interacțiunea cu școlile și familiile pot implica instituții naționale diferite.

Benifei a legat intervenția părinților și de o altă inițiativă europeană aflată acum în proces legislativ, EU KIDS Act. Comisia a prezentat propunerea la 17 septembrie, cu mai puțin de două săptămâni înaintea forumului, ca un nou cadru pentru protejarea minorilor în serviciile digitale.

KIDS Act nu este o componentă a AI Act și nici nu este încă legislație în vigoare. Este o propunere a Comisiei care trebuie analizată și negociată de Parlamentul European și Consiliu înainte de a putea deveni drept aplicabil.

Textul propus acoperă social media, platformele de partajare video, jocurile online, chatboturile și companionii AI folosiți de minori. Printre măsurile propuse se află cerințe de siguranță implicită, restricții asupra funcțiilor care favorizează utilizarea compulsivă și noi instrumente pentru părinți și tutori.

În cazul chatboturilor și companionilor AI, Comisia propune ca acestea să fie dezactivate implicit pentru minori și să nu fie proiectate pentru a crea dependență emoțională prin simularea relațiilor interpersonale. Serviciile ar trebui să evalueze riscurile pentru copii înainte de lansare și să monitorizeze ulterior posibilele efecte negative.

Aceste reguli privesc siguranța online a minorilor și nu trebuie confundate cu clasificarea sistemelor educaționale cu risc ridicat din AI Act. Un chatbot folosit de un elev nu devine automat sistem cu risc ridicat doar pentru că este utilizat într-o școală. Clasificarea depinde de scopul pentru care sistemul este conceput și utilizat.

În paralel, un sistem folosit pentru a decide admiterea unui elev sau pentru a-i evalua rezultatele într-un mod care influențează parcursul educațional poate intra în categoria cu risc ridicat chiar dacă nu este un chatbot și nu are funcții conversaționale.

Această suprapunere de cadre este una dintre dificultățile practice ale supravegherii. O școală poate utiliza servicii care intră sub AI Act, norme privind protecția datelor, legislația privind serviciile digitale și, dacă propunerea va fi adoptată, viitorul KIDS Act. Instituția responsabilă și obligațiile concrete pot varia în funcție de funcția tehnologiei.

AI Act conține deja o structură destinată implicării experților și organizațiilor din afara administrațiilor. Advisory Forum reunește reprezentanți ai industriei, mediului academic și societății civile și oferă expertiză Comisiei și European AI Board privind implementarea regulamentului. Acest mecanism nu reprezintă însă un canal dedicat organizațiilor de părinți pentru supravegherea AI în educație.

Tocmai aici se află noutatea solicitării formulate în forum. European Parents’ Association nu cere doar informații pentru familii despre AI, ci o modalitate prin care experiența părinților să intre în procesul de control al implementării, inclusiv în contactul dintre parlamente și autoritățile naționale.

În dosarul analizat nu apare o decizie a Parlamentului European de a crea o asemenea structură. Marjolein Moorman, vicepreședintă a Camerei Reprezentanților din Țările de Jos, a susținut în răspunsul său relevanța informațiilor furnizate de părinți, iar Benifei a argumentat că parlamentele, fiind mai aproape de cetățeni, pot transmite această experiență către executiv și autoritățile de implementare.

Pentru următoarea etapă, diferența esențială va fi între participarea informală și o procedură instituționalizată. Părinții pot deja furniza informații parlamentelor, școlilor și organizațiilor reprezentative, dar intervenția EPA urmărește un mecanism prin care această contribuție să fie luată în calcul sistematic atunci când se verifică dacă AI Act produce aceleași garanții pentru copii în state diferite.

Tema va deveni mai concretă pe măsură ce se apropie 2 decembrie 2027. Atunci, pentru anumite utilizări AI care pot afecta direct accesul, evaluarea și parcursul educațional, întrebarea nu va mai fi doar ce reguli a adoptat Uniunea, ci și cine verifică la nivel național dacă sistemele folosite în școli respectă efectiv aceste reguli.