O companie spaniolă finanțată din fonduri UE furnizează sisteme de recunoaștere facială folosite pentru supravegherea în masă în India

Tehnologia de recunoaștere facială produsă de compania spaniolă Herta Security este folosită în gări, închisori, temple și rețele urbane de supraveghere din India, unde camerele identifică în timp real persoane aflate în spații publice și le compară cu liste de urmărire. O investigație coordonată de Investigate Europe estimează, pe baza informațiilor oferite de un partener local al companiei, că software-ul Herta rulează pe aproximativ 4.000 de camere din țară.

La gara Howrah din Kolkata, una dintre cele mai aglomerate din India, aproximativ 100 de camere cu recunoaștere facială monitorizează intrările, ieșirile, peroanele, zonele de așteptare și spațiile comerciale, potrivit investigației publicate de Investigate Europe împreună cu The Reporters’ Collective și InfoLibre. Aproximativ un milion de persoane trec zilnic prin această gară.

Sistemele extrag fețele din transmisiunile video și le compară cu fotografii din baze de date ce includ persoane căutate, suspecți și persoane dispărute. Atunci când algoritmul indică o potrivire, poliția feroviară primește o alertă cu locul în care persoana a fost observată și poate interveni.

Autoritățile feroviare locale nu au confirmat că software-ul utilizat la Howrah provine de la Herta Security. Investigația a stabilit însă, pe baza documentelor companiei și a discuțiilor cu parteneri locali, că firma spaniolă furnizează tehnologie pentru sute de stații din estul Indiei și pentru alte proiecte din țară.

Herta Security a confirmat că produsele sale sunt folosite în India, dar a refuzat să dezvăluie numele clienților, invocând confidențialitatea comercială. Un partener indian al companiei a estimat pentru Investigate Europe că software-ul său rulează pe aproximativ 4.000 de camere din India. Această cifră provine de la partenerul comercial și nu a fost confirmată independent de autoritățile indiene sau de Herta.

Cea mai extinsă implementare documentată privește căile ferate. În 2022, o companie din Delhi a câștigat un contract de aproximativ 11,5 milioane de euro pentru instalarea unui sistem de supraveghere video în sute de gări din estul Indiei, iar componenta de recunoaștere facială folosește software Herta.

Eastern Railway anunțase că 540 de sisteme de recunoaștere facială erau operaționale în 143 de stații, iar programul complet prevede acoperirea a 392 de gări. Partenerii locali ai Herta au declarat că tehnologia ar putea ajunge să fie conectată la peste 1.500 de camere în această rețea.

Fețele călătorilor sunt verificate în raport cu o listă de persoane de interes. Criteriile de includere pe această listă nu sunt publice, iar un partener local a afirmat că baza de date ar conține aproximativ un milion de persoane. Investigația nu a putut verifica independent dimensiunea listei.

Poliția din Delhi declarase în 2022 că trata drept identificări pozitive potrivirile obținute la un nivel de similitudine de 80%. Într-un sistem care procesează milioane de călători, chiar și o rată redusă de eroare poate produce identificări greșite. Investigația arată că nu există o procedură publică prin care o persoană să afle de ce a fost inclusă pe listă sau să conteste o potrivire falsă.

Tehnologia companiei ar fi utilizată și în complexele penitenciare Tihar, Mandoli și Rohini din Delhi, potrivit partenerului său local. Contractul guvernamental pentru această instalare ar avea o valoare de aproximativ 3,2 milioane de euro.

Software-ul funcționează și la templul Ram Mandir din Ayodhya, unde sistemul ar alerta poliția atunci când identifică o persoană aflată pe o listă de urmărire. Alte două temple ar pregăti implementări asemănătoare.

În Ahmedabad, Herta afirma într-o prezentare comercială că a instalat 140 de camere de recunoaștere facială într-un program de tip „oraș sigur”. Investigația menționează și utilizări în Mumbai, Jaipur și Secunderabad. Autoritățile feroviare, administrația proiectului din Ahmedabad și conducerea închisorilor din Delhi nu au răspuns solicitărilor de informații ale jurnaliștilor.

O parte a extinderii supravegherii din India a fost finanțată prin Nirbhaya Fund, creat după violul colectiv și uciderea unei tinere într-un autobuz din Delhi în 2012. Fondul trebuia să susțină siguranța și protecția femeilor și fetelor.

Până în martie 2025, aproximativ 58 de miliarde de rupii, echivalentul a circa 532 de milioane de euro, fuseseră cheltuite din acest fond. Date guvernamentale analizate în investigație arătau că aproximativ jumătate din bani au mers către supraveghere și activități de poliție, în timp ce 31% au finanțat servicii directe pentru victime și linii telefonice de urgență.

Organizații pentru drepturile femeilor și specialiști care asistă victimele violenței au contestat eficiența acestei orientări. Ei susțin că majoritatea agresiunilor sexuale sunt comise de persoane cunoscute victimelor, adesea în spații private în care camerele instalate în gări sau pe străzi nu pot interveni.

Numărul infracțiunilor raportate împotriva femeilor a crescut de la aproximativ 340.000 în 2014 la 450.000 în 2023. Aceste date nu demonstrează singure că sistemele de supraveghere sunt ineficiente, iar investigația precizează că nu există dovezi directe care să stabilească dacă prezența camerelor a redus sau nu anumite forme de violență în spațiile publice.

Utilizarea recunoașterii faciale în timp real de către poliție este mult mai strict limitată în Uniunea Europeană. Regulamentul privind inteligența artificială interzice în general identificarea biometrică la distanță și în timp real în spații accesibile publicului în scopuri de aplicare a legii.

Legea permite excepții restrânse, între care căutarea victimelor răpirii, traficului sau exploatării sexuale și a persoanelor dispărute, prevenirea unei amenințări teroriste concrete și iminente și identificarea suspecților pentru o listă limitată de infracțiuni grave. Chiar și atunci sunt necesare condiții juridice, autorizare prealabilă și supraveghere.

Patru experți consultați de jurnaliști au apreciat că supravegherea din rețeaua feroviară estică și programul din Ahmedabad sunt prea extinse pentru a intra în excepțiile europene. Catherine Jasserand, cercetătoare la KU Leuven, a declarat că aceste utilizări nu ar reprezenta exemple permise de identificare facială în direct de către poliție într-un spațiu public.

Rita Matulionyte, profesoară la Macquarie Law School, a afirmat că o asemenea implementare într-un stat membru ar încălca în mod clar Regulamentul privind inteligența artificială. Aceste concluzii reprezintă opiniile juridice ale specialiștilor consultați, nu o hotărâre a unei instanțe sau o constatare oficială a Comisiei Europene.

Herta a răspuns că ia în serios preocupările privind drepturile fundamentale și că produsele sale sunt dezvoltate conform principiilor europene de protecție a datelor, indiferent unde sunt utilizate. Compania a adăugat că nu poate controla modul concret în care autoritățile publice sau integratorii de sisteme folosesc tehnologia.

Un fost cercetător al companiei a susținut, sub protecția anonimatului, că datele obținute din primele proiecte indiene au contribuit la îmbunătățirea performanței algoritmului pentru fețele persoanelor de culoare. Jurnaliștii nu au putut verifica independent afirmația.

Herta a declarat că nu folosește în mod implicit datele operaționale ale clienților pentru antrenarea sau îmbunătățirea algoritmilor și că orice utilizare a datelor personale sau biometrice ar necesita o bază juridică clară.

Investigația a identificat și legătura companiei cu finanțarea europeană pentru cercetare. Herta ar fi primit din 2020 peste 3,3 milioane de euro din fonduri UE pentru proiecte legate de analiza comportamentului mulțimilor și recunoașterea facială.

Cel mai mare grant individual, de 2,36 milioane de euro, a finanțat între 2022 și 2024 proiectul FUTURE. Compania descria tehnologia drept un instrument pentru identificarea activităților neobișnuite și a amenințărilor potențiale în mulțimi, evenimente și zone cu trafic intens.

O pagină a proiectului, eliminată ulterior, dar păstrată în arhive web, prezenta componenta de recunoaștere facială ca pe un instrument care putea ajuta autoritățile să identifice rapid suspecți și teroriști. Investigate Europe subliniază că identificarea în timp real în spații publice este tocmai tipul de utilizare pe care UE l-a limitat ulterior prin Regulamentul privind inteligența artificială.

Herta a precizat că experiența acumulată în proiectele de cercetare poate contribui la dezvoltarea generală a expertizei, metodologiilor și produselor sale. Compania a negat însă că fondurile UE ar fi fost folosite pentru finanțarea, operarea sau subvenționarea implementărilor comerciale din India.

Comisia Europeană nu răspunsese solicitărilor de comentarii până la publicarea investigației. Eurodeputatul Brando Benifei, care a condus negocierile Parlamentului European asupra Regulamentului privind inteligența artificială, a cerut Uniunii să analizeze limitarea exporturilor de tehnologii care nu ar putea fi utilizate în aceleași condiții în Europa.

„Faptul că tehnologii de supraveghere interzise în Europa sunt exportate și folosite în alte părți, precum gările din India, dezvăluie un dublu standard periculos”, a declarat Benifei pentru Investigate Europe. El a susținut că UE nu poate pretinde că apără drepturile digitale la nivel mondial dacă permite companiilor europene să obțină profituri din sisteme considerate prea periculoase pentru cetățenii săi.

Investigația a fost coordonată de Investigate Europe în colaborare cu The Reporters’ Collective din India și InfoLibre din Spania, cu sprijinul AI Accountability Network al Pulitzer Center. Ea a fost publicată și de parteneri precum Tech Policy Press, Computer Weekly și EUobserver.