Europa avertizează că platformele online îi expun pe copii la dependență, abuz, conținut sexual și manipulare prin AI

Marile platforme online și motoare de căutare continuă să expună copiii și tinerii la riscuri care merg de la utilizare compulsivă și conținut nociv până la grooming, cyberbullying, imagini sexualizate generate cu inteligență artificială și acces la materiale pentru adulți, arată al doilea raport anual al European Board for Digital Services, realizat în cooperare cu Comisia Europeană.

Pe scurt

1. Raportul acoperă riscurile sistemice de pe 23 de platforme online foarte mari și două motoare de căutare foarte mari.

2. Protecția minorilor este una dintre cele mai recurente probleme identificate în raport.

3. Riscurile includ dependență de platforme, conținut sexual sau violent, cyberbullying, grooming și sextortion.

4. AI-ul crește riscurile prin deepfake-uri sexuale, manipularea imaginilor minorilor și chatboturi care pot facilita abuzul.

5. Raportul nu declară măsurile platformelor drept „bune practici”, pentru că DSA este încă la începutul aplicării.

Raportul analizează riscurile semnalate de platformele foarte mari, motoarele de căutare foarte mari, organizații ale societății civile, cercetători, trusted flaggers și organisme de soluționare extrajudiciară a litigiilor. Documentul acoperă perioada 17 februarie 2025 – 16 februarie 2026 și se bazează pe rapoartele de risc și de audit publicate de platforme în cadrul Digital Services Act.

În centrul raportului se află serviciile digitale cu peste 45 de milioane de utilizatori activi lunar în Uniunea Europeană. În această categorie intră rețele sociale, piețe online, magazine de aplicații, platforme pornografice și motoare de căutare. Digital Services Act le obligă să identifice riscurile sistemice care rezultă din modul în care sunt proiectate, funcționează și sunt folosite serviciile lor, inclusiv din sistemele algoritmice.

Protecția minorilor este prezentată ca o prioritate majoră. Raportul amintește că, potrivit unui Eurobarometru din 2025, peste 9 din 10 europeni susțin acțiuni pentru protejarea minorilor împotriva efectelor negative ale rețelelor sociale asupra sănătății mintale, împotriva cyberbullyingului și hărțuirii online, precum și pentru mecanisme care să limiteze accesul la conținut nepotrivit vârstei.

Riscurile pentru copii apar atât din conținut, cât și din arhitectura platformelor. Raportul menționează comportamentul compulsiv sau asemănător dependenței pe rețele sociale, cumpărăturile compulsive pe piețele online, expunerea la conținut sexual, violent, de auto-vătămare, tulburări alimentare sau standarde nerealiste de corp, precum și participarea la provocări online periculoase.

Designul platformelor este tratat ca factor de risc. Funcții precum scroll infinit, autoplay, notificări intruzive, recomandări foarte personalizate, mecanisme de recompensă socială prin like-uri și conținut scurt repetitiv pot prelungi timpul petrecut pe platforme și pot face mai dificilă desprinderea utilizatorilor tineri. Raportul notează că minorii sunt mai vulnerabili din cauza dezvoltării cognitive și sociale, a alfabetizării digitale mai reduse și a capacității mai limitate de a evalua consecințele.

Sistemele de recomandare pot amplifica problema. Atunci când sunt optimizate pentru engagement și timp petrecut pe platformă, ele pot expune repetat minorii la conținut la limită, dar nociv prin acumulare: corpuri idealizate, fitness extrem, conținut sexualizat, materiale despre auto-vătămare sau provocări riscante. Raportul subliniază că, uneori, riscul nu vine dintr-un singur element, ci din combinația dintre design, recomandări, notificări, conținut și monetizare.

Inteligența artificială apare ca risc transversal. Organizații ale societății civile și unele platforme au semnalat că instrumentele AI integrate în servicii folosite de copii pot facilita crearea de imagini sexualizate non-consensuale, manipularea fotografiilor minorilor, sextortion, cyberbullying și grooming. Raportul menționează riscuri legate de deepfake-uri sexuale, aplicații de „nudificare”, chatboturi și conținut generat artificial care poate fi greu de diferențiat de conținutul real.

Raportul descrie și riscuri legate de materialele de abuz sexual asupra copiilor. Platformele și organizațiile civile au semnalat riscuri privind distribuirea de CSAM, solicitarea sau constrângerea minorilor să producă astfel de materiale, conținut care sexualizează copiii sau normalizează abuzul, precum și trimiterea de materiale sexuale către minori de către adulți. Mesageria privată, conturile anonime sau pseudonime și redirecționarea către servicii externe sunt menționate ca factori care pot facilita abuzul.

Contactul direct dintre adulți și minori este o altă zonă de risc. Raportul menționează groomingul, exploatarea sexuală, solicitarea, coerciția, sextortion, amenințările cu distribuirea imaginilor intime, cyberbullyingul și hărțuirea din partea prădătorilor sau a altor tineri. Unele contribuții au atras atenția și asupra relațiilor parasociale dintre minori și creatori de conținut, în care mesajele comerciale pot fi percepute de copii ca recomandări personale autentice.

Platformele pornografice sunt tratate separat din cauza riscului ca minorii să ocolească măsurile de verificare a vârstei și să acceseze conținut pentru adulți. Raportul menționează măsuri precum verificarea vârstei, avertismente de conținut, blurarea paginilor, etichete „Restricted To Adults”, sisteme de detectare a minorilor sau a utilizatorilor interziși, precum și instrumente automate pentru detectarea materialelor CSAM.

Piețele online ridică un alt tip de problemă: minorii pot cumpăra produse nepotrivite vârstei sau produse care ar trebui să fie destinate doar adulților. Raportul menționează riscuri legate de produse pentru adulți, alcool, tutun, jocuri de noroc, medicamente, produse periculoase sau înșelătorii. Unele platforme spun că folosesc etichete de avertizare, filtre, blurarea listărilor pentru adulți, ferestre de confirmare a vârstei și limitarea anumitor activități interactive la utilizatorii adulți.

Riscurile pentru minori se suprapun cu alte riscuri identificate în raport: dezinformarea, discursul ilegal de ură, discriminarea, violența de gen, fraudele, produsele ilegale și riscurile pentru sănătate publică. De exemplu, copiii pot fi afectați nu doar de conținutul sexual sau violent, ci și de fraude, influenceri, reclame, recomandări algoritmice și informații false despre sănătate sau alegeri.

Raportul enumeră și tipurile de măsuri folosite de platforme. Acestea includ politici de utilizare și moderare, detectare automată și verificare umană, hash-matching pentru identificarea materialelor cunoscute de abuz sexual asupra copiilor, setări de siguranță activate implicit pentru minori, control parental, limitarea funcțiilor de mesagerie, restricții pentru livestreaming, instrumente de raportare adaptate copiilor, avertismente, blurarea conținutului sensibil și opțiuni pentru gestionarea timpului petrecut online.

Pentru rețele sociale, raportul menționează măsuri precum cerințe de vârstă minimă, age gates, eliminarea conturilor sub vârsta minimă, administrarea celor care pot urmări conturile minorilor și aprobarea parentală pentru anumite schimbări de setări. Unele platforme au introdus conturi speciale pentru adolescenți, setări de confidențialitate mai ridicate, dezactivarea implicită a localizării și limitarea profilurilor publice la utilizatori mai mari.

Raportul păstrează însă o rezervă importantă: măsurile descrise nu sunt prezentate ca „bune practici” sau „cele mai bune practici”. Board-ul și Comisia spun că DSA este încă într-o etapă timpurie de aplicare, iar faptul că o măsură este menționată de o platformă nu înseamnă automat că funcționează, că este aplicată eficient sau că asigură conformitatea cu legea.

Documentul precizează și că nu este o evaluare de conformitate a platformelor și nu înlocuiește investigațiile sau acțiunile de enforcement ale Comisiei și ale coordonatorilor naționali pentru servicii digitale. În același timp, raportul indică direcția în care autoritățile europene privesc aplicarea DSA: riscurile nu sunt analizate doar la nivel de conținut individual, ci la nivel de design, algoritmi, publicitate, monetizare, moderare și modele de business.

În partea de perspectivă, raportul menționează că viitoarele ediții vor beneficia de deciziile de aplicare a legii și de accesul cercetătorilor la date în cadrul DSA. Documentul amintește și prima decizie de neconformitate adoptată în baza cadrului de evaluare a riscurilor din DSA, împotriva Temu, pentru eșecul de a identifica și evalua în mod diligent riscurile sistemice legate de produse ilegale oferite pe platformă și de prejudiciile pentru consumatorii din Uniunea Europeană.

Pentru utilizatori, raportul arată că protecția copiilor online nu mai este tratată în UE doar ca problemă de control parental sau de moderare punctuală. Riscul este legat de felul în care platformele sunt construite: ce recomandă, ce recompensează, ce monetizează, cât timp țin utilizatorii conectați și cât de repede pot detecta abuzul.