Comisia Europeană spune că aplicațiile AI care dezbracă femei și fete sunt interzise pe piața UE

Aplicațiile de inteligență artificială care generează imagini intime ale unei persoane reale fără consimțământ sunt interzise pe piața Uniunii Europene, a spus comisara Hadja Lahbib la OECD Gender Equality Forum, la Paris. Furnizorii acestor sisteme au termen până în decembrie să se conformeze regulilor europene.

Pe scurt

1. Comisia Europeană spune că aplicațiile AI de „nudificare” sunt interzise pe piața UE.

2. Interdicția vizează sistemele AI care generează imagini intime ale unei persoane reale fără consimțământ.

3. În UE, una din cinci femei a trecut prin violență online; în rândul femeilor tinere, proporția este de una din patru.

4. Lahbib a spus că 98% dintre imaginile manipulate cu AI sunt pornografice, iar 99% dintre acestea prezintă femei.

5. Comisia pregătește un plan de acțiune pentru femei în cercetare, inovare și startupuri și vrea un milion de fete în cariere STEM până în 2028.

Hadja Lahbib a descris un caz tot mai frecvent: o fotografie luată de pe un profil de social media este încărcată într-o aplicație AI, iar în câteva minute apar imagini explicite distribuite online către colegi, familie sau necunoscuți. Comisara a spus că astfel de situații nu sunt science-fiction, ci se întâmplă femeilor și fetelor în Europa și în lume.

În discursul său, Lahbib a legat inteligența artificială de violența online, hărțuire, stalking, discurs de ură și abuz bazat pe imagini. Ea a spus că femeile activiste, jurnaliste și politiciene sunt țintite pentru că sunt vizibile, iar scopul atacurilor este împingerea lor afară din spațiul public.

Comisia Europeană invocă trei instrumente pentru răspunsul UE: Directiva privind violența împotriva femeilor, Digital Services Act și AI Act. Directiva tratează direct violența cibernetică, Digital Services Act este folosit pentru responsabilizarea platformelor, iar AI Act interzice forme manipulative și înșelătoare de inteligență artificială și urmărește combaterea prejudecăților de gen în algoritmi.

Lahbib a spus că UE a mers mai departe prin interzicerea aplicațiilor de „nudificare”. Orice sistem AI care produce imagini intime ale unei persoane reale fără consimțământ nu mai poate fi pus pe piața Uniunii Europene. Comisara a formulat mesajul astfel: „Nicio tehnologie nu poate trece peste corpul tău, imaginea ta, consimțământul tău.”

Datele invocate în discurs arată dimensiunea de gen a abuzului generat de AI. Potrivit Lahbib, 98% dintre imaginile manipulate cu AI sunt pornografice, iar 99% dintre acestea prezintă femei.

Comisara a spus că legile nu sunt suficiente dacă femeile lipsesc din procesul de construire a tehnologiilor. În absența lor, prejudecățile pot fi introduse în proiectarea sistemelor și apoi amplificate la scară globală.

Comisia pregătește un Action Plan on Women in Research, Innovation and Startups pentru a crește prezența femeilor în laboratoare, startupuri și consilii de conducere. Obiectivul anunțat este ca Europa să devină până în 2030 principala destinație pentru femeile din cercetare, inovare și startupuri.

Lahbib a menționat și inițiativa Girls Go STEM, care are ca țintă un milion de fete în cariere STEM până în 2028. STEM acoperă știință, tehnologie, inginerie și matematică, domenii în care femeile rămân subreprezentate și unde se iau multe dintre deciziile privind dezvoltarea tehnologiilor viitoare.

Discursul a legat egalitatea de gen de noua Strategie a UE pentru egalitate pentru următorii cinci ani, în care transformarea digitală este una dintre priorități. Lahbib a spus că accesul femeilor și fetelor la competențe digitale și la poziții de conducere în tehnologie este esențial pentru ca digitalizarea să nu adâncească inegalitățile existente.

Comisara a vorbit și despre rolul bărbaților și băieților. Ea a spus că narațiunile toxice care împing tinerii spre ură și misoginie sunt reale și bine finanțate și trebuie combătute în școli, comunități și prin societatea civilă.

Lahbib a cerut o guvernanță a inteligenței artificiale care să includă femeile, să combată violența online și să transforme economia digitală într-o sursă de oportunități, nu într-un factor de accentuare a inegalităților.