ENISA negociază accesul la un model AI avansat și cere garanții pentru infrastructurile critice

Agenția Uniunii Europene pentru Securitate Cibernetică, ENISA, negociază condițiile de acces la un model avansat de inteligență artificială pentru a-i putea analiza comportamentul și riscurile. Comisia Europeană spune că testarea trebuie să protejeze informațiile despre vulnerabilitățile băncilor, infrastructurilor critice și altor sectoare strategice din Europa.

ENISA negociază cu dezvoltatorul unui model de inteligență artificială de frontieră condițiile în care experții europeni ar putea obține acces pentru evaluări de securitate. Modelele de frontieră sunt sisteme foarte performante, antrenate pe volume mari de date și capabile să execute sarcini complexe, inclusiv analizarea și generarea de cod informatic.

Comisia Europeană a confirmat că invitația de acces a fost primită și că negocierile sunt în desfășurare. Discuțiile trebuie să stabilească tipul de acces acordat, limitele testării, informațiile care pot fi introduse în sistem și măsurile necesare pentru protejarea datelor europene.

Evaluarea unui model de acest tip poate presupune testarea capacității sale de a identifica vulnerabilități informatice, de a produce cod care poate fi folosit în atacuri sau de a oferi instrucțiuni pentru compromiterea unor sisteme. Aceleași tehnologii pot fi folosite defensiv pentru detectarea problemelor, analizarea incidentelor și dezvoltarea unor măsuri de protecție.

ENISA trebuie să poată verifica aceste capacități fără să introducă în model informații care ar putea dezvălui punctele slabe ale infrastructurilor europene. Comisia a menționat explicit sectorul bancar și infrastructurile critice printre domeniile care necesită protecții suplimentare.

Infrastructurile critice includ serviciile a căror întrerupere poate afecta grav societatea și economia, precum energia, transporturile, comunicațiile, serviciile financiare, apa, sănătatea și administrația publică. Informațiile despre arhitectura lor tehnică, sistemele de protecție sau vulnerabilitățile cunoscute pot avea valoare pentru atacatori.

Comisia consideră că accesul trebuie să aibă loc într-un mediu controlat, cu reguli care să prevină scurgerea informațiilor și reutilizarea datelor sensibile. Transcriptul nu precizează dacă ENISA va primi acces direct la model, la o versiune limitată sau la o interfață tehnică specială pentru testare.

Cooperarea este discutată și în relația dintre Uniunea Europeană și Statele Unite. Comisia a descris UE drept un partener de încredere și a arătat că evaluarea comună a modelelor puternice servește intereselor ambelor părți, în condițiile în care sectoarele strategice europene și americane sunt interconectate.

Instituția nu a anunțat un termen pentru finalizarea negocierilor. Condițiile de acces trebuie convenite cu dezvoltatorul înainte ca ENISA să înceapă testele, iar Comisia spune că viteza evaluării trebuie echilibrată cu protejarea datelor și a vulnerabilităților europene.

Transcriptul briefingului redă neclar numele modelului și nu permite identificarea sa cu certitudine. Comisia a confirmat însă că este vorba despre un model AI de frontieră și că ENISA lucrează la condițiile pentru un acces sigur.