Detectarea deepfake-urilor, pe primul loc între tehnologiile pe care experții JRC și Europol le consideră urgente pentru polițiile europene

Deepfake-urile au trecut de etapa în care reprezentau în principal o problemă de conținut fals distribuit online și devin o provocare directă pentru anchetele penale. Într-un raport comun realizat de Joint Research Centre al Comisiei Europene și Europol, experții consultați au plasat detectarea deepfake-urilor pe primul loc între tehnologiile emergente pe care autoritățile europene de aplicare a legii ar trebui să le urmărească și pentru care este nevoie de soluții într-un orizont apropiat. Riscurile identificate merg de la impersonare și furt de identitate până la fraude financiare, șantaj, manipularea opiniei publice și crearea unor imagini sau înregistrări care pot fi prezentate drept materiale autentice într-o investigație.

Raportul „Horizon scanning on emerging privacy enhancement technologies” a fost realizat de EU Policy Lab din cadrul Joint Research Centre și Innovation Lab al Europol pentru a anticipa schimbările tehnologice care pot influența activitatea poliției în următorii ani. Echipa a pornit de la peste 200 de semnale privind tehnologii și factori care le pot accelera sau încetini dezvoltarea, apoi a selectat 178 pentru un workshop la care au participat aproximativ 20 de specialiști din poliție, cercetare, informatică, drept, politici publice, business și societate civilă. În urma acestei selecții au rezultat zece tehnologii și direcții considerate deosebit de relevante pentru activitatea viitoare a autorităților, iar deepfake detection a primit cea mai puternică evaluare în privința impactului și urgenței.

Miza vine din viteza cu care se schimbă conținutul sintetic. Deepfake-urile pot reproduce chipul, vocea și comportamentul unei persoane și pot crea materiale în care aceasta pare să fi spus sau făcut lucruri care nu s-au întâmplat. Pe măsură ce instrumentele de generare devin mai accesibile și rezultatele mai greu de recunoscut vizual, verificarea autenticității nu mai poate depinde de experiența sau intuiția celui care privește o imagine ori ascultă o înregistrare.

Pentru poliție, consecințele sunt mult mai concrete decât simpla circulație a unor falsuri pe internet. Un material sintetic poate fi folosit pentru a lua identitatea unei persoane, a autoriza sau simula o tranzacție, a construi o tentativă de fraudă, a exercita presiune prin șantaj sau a produce un fals care imită o probă digitală. Raportul menționează explicit posibilitatea ca deepfake-urile să submineze procese juridice și să agraveze forme deja existente de cybercrime.

Apare astfel o problemă suplimentară pentru anchetatori și instanțe: stabilirea autenticității materialului devine parte tot mai importantă a evaluării unei probe. O imagine sau o înregistrare video poate avea în continuare o valoare probatorie importantă, însă proveniența, istoricul fișierului și urmele tehnice ale unei eventuale manipulări capătă o greutate mai mare într-un mediu în care conținutul sintetic devine mai realist.

Deepfake-urile pot influența și încrederea în materialele autentice. O persoană confruntată cu o înregistrare reală poate încerca să o prezinte drept produs AI, iar anchetatorii au nevoie de instrumente suficient de solide pentru a demonstra ce este original și ce a fost modificat. Raportul tratează această evoluție ca pe o provocare pentru calitatea probelor și pentru încrederea publică în procesele juridice și instituționale.

Tehnologiile de detectare evoluează în paralel cu instrumentele de generare. O categorie folosită deja este cea a convolutional neural networks, modele de deep learning care caută anomalii în texturi, margini, expresii sau alte caracteristici ale imaginilor. Raportul menționează și combinații între Vision Transformers și EfficientNet B0, care încearcă să obțină rezultate mai bune prin analizarea simultană a caracteristicilor globale și locale ale unei imagini.

O altă direcție urmărește urmele tehnice pe care procesul de generare le poate lăsa în fișiere. Forensic noise trace analysis caută modele subtile de zgomot digital care nu sunt vizibile pentru ochiul uman, dar care pot indica intervenția unui model de generare sau a unei tehnici de manipulare. Sunt testate și soluții de detecție în timp real pentru situații în care verificarea trebuie făcută foarte repede.

Raportul analizează și prevenția prin watermarking. În această abordare, anumite caracteristici ale identității faciale pot primi marcaje digitale care permit verificarea ulterioară a integrității și pot semnala că imaginea a fost modificată. Astfel de soluții încearcă să mute o parte din efort de la descoperirea falsului după distribuire către autentificarea materialului încă din momentul în care este creat sau înregistrat.

Niciuna dintre metodele analizate nu este prezentată drept soluție definitivă. Modelele de generare evoluează rapid, iar un detector eficient împotriva unui anumit tip de deepfake poate avea rezultate mai slabe în fața unei tehnici noi. Una dintre direcțiile importante de cercetare este tocmai capacitatea detectorilor de a recunoaște manipulări pe care nu le-au întâlnit în datele folosite pentru antrenare.

Pentru autorități, această evoluție presupune mai mult decât achiziționarea unui software. Raportul insistă asupra nevoii de expertiză forensic, personal pregătit să înțeleagă limitele algoritmilor și proceduri prin care concluziile tehnice să poată fi explicate și documentate într-un dosar penal. O probabilitate furnizată de un sistem AI este mult mai utilă într-o anchetă atunci când poate fi susținută de o analiză tehnică inteligibilă și verificabilă.

Această cerință este legată de folosirea AI în probe și expertize. Modelele care funcționează ca „black boxes” pot crea probleme atunci când un procuror, un avocat sau un judecător trebuie să înțeleagă cum s-a ajuns la concluzia că un material este falsificat. Pentru criminalistica digitală, performanța tehnică și explicabilitatea devin astfel două condiții care trebuie dezvoltate împreună.

JRC și Europol văd cooperarea dintre autorități, cercetători și companiile tehnologice drept una dintre condițiile pentru menținerea acestui ritm. Sistemele de generare și detecție se schimbă mai repede decât ciclurile obișnuite de achiziții și formare din sectorul public, iar capacitatea unei instituții de a verifica deepfake-uri depinde de accesul la expertiză și de actualizarea continuă a instrumentelor.

Raportul tratează deepfake-urile și prin prisma identității. Controlul asupra imaginii și vocii unei persoane este legat de viața privată și de securitatea personală, iar impersonarea poate afecta simultan persoana vizată, instituțiile care încearcă să îi verifice identitatea și terții care primesc materialul fals.

Problema este deosebit de relevantă în tranzacțiile financiare și juridice, unde deepfake-urile pot fi folosite pentru a simula identitatea unei persoane sau pentru a crea un context fals în jurul unei operațiuni. Autorii includ aici și riscul de furt de identitate, una dintre formele de criminalitate care poate deveni mai ușor de automatizat și de scalat odată cu îmbunătățirea instrumentelor AI.

Raportul nu oferă o statistică privind numărul actual de investigații europene afectate de deepfake-uri și nici nu spune că acestea au devenit principala formă de criminalitate digitală din UE. Clasarea lor pe primul loc exprimă evaluarea participanților asupra impactului și urgenței tehnologice și indică domeniul în care autoritățile ar trebui să își pregătească din timp capacitățile.

Această delimitare este importantă și pentru modul în care trebuie citită publicația. Studiul este un exercițiu de foresight, bazat în principal pe workshop și pe un număr limitat de interviuri, iar autorii recunosc că unele concluzii necesită cercetare suplimentară. Rolul său este să arate unde pot apărea probleme și oportunități suficient de importante pentru a justifica pregătirea înainte ca ele să ajungă la scară mare.

Joint Research Centre este serviciul științific al Comisiei Europene, iar Europol Innovation Lab urmărește tehnologii care pot modifica activitatea autorităților de aplicare a legii. Raportul comun publicat în 2026 examinează aceste tehnologii din două perspective: capacitatea lor de a proteja datele și de a ajuta investigațiile și posibilitatea ca aceleași instrumente să fie folosite pentru ascunderea sau facilitarea activităților criminale.

Deepfake detection deschide seria tehnologiilor analizate în raport și a primit cea mai puternică evaluare de urgență în workshop. Alte capitole tratează separat criptografia post-cuantică, calculul pe date criptate, AI care protejează datele, 6G și alte tehnologii emergente, ceea ce permite analizarea fiecărei teme fără a suprapune concluziile între ele.