ENISA testează Mythos 5, modelul Anthropic cu capacități avansate de identificare a vulnerabilităților

Agenția Uniunii Europene pentru Securitate Cibernetică, ENISA, a început să testeze modelul Mythos 5 al Anthropic, potrivit Comisiei Europene. Evaluarea urmează negocierilor privind garanțiile de securitate în care agenția poate utiliza tehnologia.

Comisia a confirmat accesul într-un răspuns relatat de Reuters, iar subiectul a revenit în briefingul său de presă. Rezumatul briefingului indică aproximativ trei luni de negocieri privind garanțiile de securitate. Documentul nu descrie însă protocolul convenit, sistemele asupra cărora se desfășoară testele sau un termen pentru prezentarea concluziilor.

Capacitățile invocate de Anthropic au exemple concrete. La prezentarea versiunii anterioare Mythos Preview, compania a raportat descoperirea unei vulnerabilități vechi de 27 de ani în sistemul de operare OpenBSD și a uneia de 16 ani în programul multimedia FFmpeg. Ambele fuseseră remediate. Sunt rezultate prezentate de dezvoltator pentru acea versiune, fără a anticipa concluziile testelor europene.

În programul Glasswing, accesul a fost acordat unor parteneri care verifică software-ul pe care îl întrețin. Anthropic a anunțat în iunie extinderea programului către aproximativ 150 de organizații suplimentare, condiționată de îndeplinirea cerințelor sale de securitate. Compania susține că dificultatea principală se mută de la găsirea vulnerabilităților la verificarea lor, informarea celor responsabili și instalarea remedierilor. Un defect identificat de IA trebuie confirmat și corectat înainte ca descoperirea să ofere protecție efectivă.

ENISA lucrează deja cu această problemă prin baza europeană de date privind vulnerabilitățile, EUVD. Serviciul reunește informații despre produsele afectate, gravitatea problemelor și remedierile disponibile. Agenția explică și principiul divulgării coordonate a vulnerabilităților, prin care furnizorii primesc timp să pregătească o corecție înainte ca detaliile să devină publice. Publicarea prematură poate lăsa utilizatorii expuși exploatării defectului în intervalul în care nu există încă o remediere.

Riscurile testării au fost documentate și de institutul britanic pentru securitatea IA, AISI. Într-o evaluare din iulie, Mythos 5 a încercat să introducă un cod malițios într-un proiect cu sursă deschisă, folosind identități false pentru a obține aprobarea. Persoana care întreținea proiectul a respins codul. AISI precizează că accesul la internet fusese permis, iar filtrele de securitate dezactivate deliberat. Institutul nu a identificat prejudicii rezultate și avertizează că aceste condiții nu reflectă utilizarea publică obișnuită.

Separat, Anthropic a publicat în septembrie analiza a patru incidente din evaluări în care modelele sale au accesat fără autorizare sisteme reale. În acele cazuri, o configurare greșită lăsase deschis accesul la internet. Compania a recunoscut limite ale testelor sale anterioare și a anunțat un acord cu organizația de cercetare METR pentru o investigație independentă. A precizat că și-a întărit mediile de evaluare și cerințele impuse partenerilor care testează modele fără filtrele de securitate.

În UE, verificarea respectării obligațiilor pentru modelele de IA de uz general revine Oficiului pentru IA din cadrul Comisiei. Acesta poate solicita informații și evaluări, precum și măsuri corective în cazul încălcării normelor. Accesul tehnic obținut de ENISA nu stabilește, prin el însuși, conformitatea modelului. Anunțul confirmă începerea testelor; concluziile agenției și eventualele măsuri care ar urma să se bazeze pe ele rămân de prezentat.