AcasăEuropaFemeile discriminate de algoritmi întâmpină obstacole în accesul la justiție, arată un...


Femeile discriminate de algoritmi întâmpină obstacole în accesul la justiție, arată un studiu pentru Parlamentul European

O femeie discută cu două persoane la un interviu de angajare.
O candidată la un interviu de angajare, într-o imagine de ilustrare. Studiul pentru Comisia FEMM examinează inclusiv discriminarea algoritmică în recrutare și obstacolele întâmpinate de femei în accesul la justiție.

Femeile dezavantajate de algoritmi în recrutare, creditare sau acordarea prestațiilor sociale se pot confrunta cu un al doilea obstacol atunci când încearcă să conteste decizia: nu au acces la informațiile care ar permite demonstrarea discriminării. Un studiu realizat pentru Comisia pentru drepturile femeilor și egalitatea de gen a Parlamentului European (FEMM) identifică lacune între protecțiile juridice existente și posibilitatea efectivă de a obține reparații. Autoarele, Nele Roekens și Carlotta Rigotti, recomandă reguli mai eficiente privind probele, răspunderea și remediile colective.

Pe scurt

  1. Analiza examinează cazuri din recrutare, servicii sociale, creditare și sănătate. Eliminarea sexului din datele folosite de un algoritm nu garantează un rezultat nediscriminatoriu: alte variabile pot reproduce inegalități de gen.

  2. Accesul la probe este o problemă centrală. Persoana afectată poate să nu știe că a fost evaluată automat sau să nu poată identifica responsabilitățile dezvoltatorului, furnizorului și utilizatorului sistemului.

  3. Studiul combină literatura de specialitate, cazuri documentate și o consultare țintită, nereprezentativă statistic. Exemplele sale nu arată câte femei din UE sau din România sunt discriminate prin algoritmi.

  4. Cadrul juridic rămâne fragmentat. Obligațiile AI Act au un calendar etapizat, iar noua directivă privind produsele defecte se aplică produselor introduse pe piață după 9 decembrie 2026 și nu acoperă discriminarea ca atare.

  5. Autoarele propun reluarea unei directive privind răspunderea pentru prejudiciile provocate de IA, sprijin tehnic și juridic pentru victime, organisme pentru egalitate mai bine finanțate și remedii colective. Sunt recomandări de cercetare, nu obligații noi adoptate de Parlament.

Studiul Gender bias and artificial intelligence a fost publicat pe portalul de cercetare al Parlamentului la 4 noiembrie 2026. El combină analiza literaturii academice, a legislației, jurisprudenței și investigațiilor jurnalistice cu o consultare a unor actori relevanți și o evaluare de specialitate. Cercetarea acoperă evoluțiile până în septembrie 2026 și se concentrează în principal asupra femeilor adulte, în limitele dovezilor disponibile. Consultarea nu este reprezentativă statistic, iar datele sunt rareori detaliate dincolo de distincția dintre femei și bărbați.

Documentul analizează atât sisteme care intră în definiția juridică a inteligenței artificiale, cât și instrumente de decizie automatizată bazate pe reguli, cu efecte similare. El examinează separat și violența de gen facilitată de tehnologie. Pentru discriminarea algoritmică, întrebarea transversală este cum poate o persoană să identifice, să demonstreze și să conteste un tratament inechitabil produs printr-un sistem pe care nu îl poate examina.

Un algoritm poate ignora explicit sexul solicitantului și totuși să folosească indicatori puternic corelați cu acesta. Întreruperile carierei, munca cu timp parțial, veniturile și responsabilitățile de îngrijire pot reflecta inegalități existente. Un model antrenat pe asemenea date poate reproduce dezavantajul, chiar dacă rezultatul este prezentat ca o evaluare neutră. Autoarele disting între prejudecățile moștenite din contextul social, cele introduse prin proiectarea tehnică și cele care apar după punerea în utilizare.

În recrutare, problemele pot apărea de la distribuirea anunțurilor până la selectarea CV-urilor și evaluarea interviurilor. Studiul citează o investigație jurnalistică din Germania în care scorurile de personalitate generate de un instrument de interviu video se modificau în funcție de ochelari, acoperirea capului sau lumină. Investigația a arătat sensibilitatea la asemenea caracteristici, fără să demonstreze că variațiile au redus efectiv șansele de angajare.

Un alt exemplu este sistemul de profilare al serviciului public de ocupare din Austria, în care obligațiile de îngrijire diminuau punctajul mamelor, dar nu și pe cel al taților. Pentru Polonia, autoarele prezintă o cercetare calitativă în două oficii de ocupare: mamele cu copii mici erau încadrate frecvent într-un profil cu mai puține obligații, dar și cu cel mai redus sprijin pentru reintegrare. Responsabilitățile de îngrijire ale taților nu erau tratate în același mod. Aceste exemple privesc modele și practici identificate, nu toate serviciile publice de ocupare din cele două țări.

După angajare, planificarea automată a turelor și monitorizarea performanței pot penaliza persoanele care nu pot accepta schimbări de program anunțate târziu sau care sunt întrerupte de obligații familiale. Riscul nu privește exclusiv femeile, dar poate avea un efect disproporționat atunci când îngrijirea neplătită este distribuită inegal.

În serviciile sociale, sistemele de evaluare a riscului combină informații despre venituri, locuință, ocupare și familie pentru a selecta beneficiarii supuși controalelor. La Rotterdam, un model utilizat între 2017 și 2021 majora scorurile pentru caracteristici precum sexul feminin, vârsta sub 30 de ani, existența copiilor și cunoașterea limitată a limbii neerlandeze, potrivit investigațiilor citate în studiu. Efectele acestor indicatori se puteau cumula.

Cercetarea descrie și scandalul prestațiilor pentru îngrijirea copiilor din Țările de Jos, precum și probleme semnalate în Suedia și Franța. În cazul sistemului francez, criteriile de selectare a controalelor au fost contestate pentru efectele asupra persoanelor cu venituri mici și familiilor monoparentale, conduse în majoritate de femei. Exemplele nu echivalează cu o constatare că orice control automat al prestațiilor este discriminatoriu și nici cu hotărâri judiciare identice asupra tuturor sistemelor menționate.

În creditare, studiul citează o cercetare bazată pe datele a 79.386 de clienți ai unei mari bănci europene care au primit credite auto între 2003 și 2009. Femeile din eșantion aveau o probabilitate mai mică de neplată. Eliminarea sexului din model a redus însă probabilitatea de acceptare pentru femei și a crescut-o pentru bărbați, fără îmbunătățirea preciziei predictive. Alte variabile funcționau ca indicatori indirecți, iar femeile reprezentau numai un sfert din eșantion. Este un rezultat al unei cercetări pe date istorice, nu o evaluare a tuturor sistemelor bancare actuale.

În sănătate, problema este reprezentarea insuficientă a anumitor categorii de pacienți în datele de dezvoltare și testare. Autoarele citează evaluări în care performanța unor modele de diagnostic scădea pentru grupul insuficient reprezentat, precum și teste în care modele lingvistice recomandau mai frecvent femeilor gestionarea simptomelor acasă. Rezultatele unor teste de cercetare nu pot fi extinse automat la toate sistemele medicale folosite în UE, dar arată de ce evaluarea pe categorii de pacienți contează.

Obținerea unei reparații presupune, mai întâi, aflarea modului în care a fost luată decizia. Un candidat respins poate primi un răspuns standardizat, iar un beneficiar al unei prestații poate afla că este verificat fără să cunoască factorii care i-au crescut scorul. Informațiile utile pot fi deținute de angajator, bancă, administrație sau furnizorul tehnologiei. Contestarea rezultatului poate necesita expertiză tehnică pe care o persoană nu și-o poate permite.

Responsabilitatea poate fi împărțită între dezvoltator, furnizor, utilizatorul sistemului și cei care furnizează datele. Stabilirea legăturii dintre proiectare, utilizare și prejudiciu devine astfel mai dificilă. Același model poate afecta numeroase persoane, în timp ce fiecare vede doar propria decizie. Remediile individuale pot surprinde numai o parte a problemei sistemice.

Legislația europeană antidiscriminare prevede, în anumite litigii, transferarea sarcinii probei. După ce reclamantul prezintă fapte din care discriminarea poate fi prezumată, pârâtul trebuie să demonstreze că principiul egalității de tratament nu a fost încălcat. Dificultatea identificată de autoare este obținerea acelor prime indicii atunci când criteriile algoritmului și datele relevante nu sunt accesibile.

Protecțiile existente au domenii diferite. GDPR reglementează prelucrarea datelor personale și, în anumite condiții, deciziile bazate exclusiv pe prelucrare automată. AI Act stabilește cerințe pentru sistemele cu risc ridicat și alte categorii reglementate, iar Digital Services Act impune obligații platformelor, inclusiv evaluarea riscurilor sistemice de către cele foarte mari. Normele privind combaterea violenței împotriva femeilor acoperă și anumite forme de violență facilitată de tehnologie. Aceste instrumente nu formează un mecanism unic de răspundere pentru orice prejudiciu discriminatoriu.

Calendarul AI Act trebuie separat de existența sa juridică. Regulamentul de simplificare privind IA, adoptat în iulie 2026, este deja în vigoare. El a mutat aplicarea principalelor cerințe pentru sistemele cu risc ridicat din anexa III, care includ anumite utilizări în recrutare și servicii esențiale, la 2 decembrie 2027, iar pentru sistemele legate de produsele reglementate la 2 august 2028. Aceasta nu înseamnă că toate dispozițiile AI Act sau celelalte reguli antidiscriminare sunt suspendate până atunci.

Noua directivă privind răspunderea pentru produsele defecte include software-ul și introduce reguli privind divulgarea probelor și prezumțiile juridice. Statele membre trebuie să o transpună până la 9 decembrie 2026, iar noul regim privește produsele introduse pe piață sau puse în funcțiune după această dată. Pot fi acoperite vătămări corporale, inclusiv prejudicii psihologice recunoscute medical, și alte categorii de prejudicii definite de act. În schimb, pierderea economică pură, încălcarea vieții private ori discriminarea nu declanșează, prin ele însele, răspunderea prevăzută de directivă. Rămân posibile remediile oferite de alte norme aplicabile.

Propunerea separată de directivă privind răspunderea pentru IA a fost retrasă de Comisie în 2025. Aceasta urmărea tocmai dificultățile de probă și de stabilire a cauzalității în anumite litigii privind IA. Studiul recomandă reluarea inițiativei într-o formă mai amplă, care să acopere prejudicii materiale, nemateriale și societale, să includă răspunderea obiectivă, fără necesitatea dovedirii culpei, să consolideze transferarea sarcinii probei și să permită ordine judiciare pentru prevenirea ori oprirea prejudiciului, precum și remedii colective.

Alte recomandări privesc adoptarea directivei orizontale privind egalitatea de tratament, recunoașterea discriminării intersecționale și întărirea organismelor pentru egalitate și a autorităților de supraveghere. Autoarele cer resurse financiare, competențe tehnice și acces la informații, dar și participarea femeilor și a grupurilor afectate la proiectarea și evaluarea sistemelor. Sprijinul pentru victime ar trebui să includă expertiză tehnică, alături de asistența juridică.

Pentru legiuitori, recomandarea concretă este ca prevenirea discriminării să fie însoțită de posibilitatea reală de a contesta deciziile și de a obține un remediu. Publicarea cercetării nu modifică legislația și nu reprezintă adoptarea propunerilor de către Parlamentul European.






























RELATED ARTICLES