Studiu pentru Parlament cere verificarea obligatorie a comenzilor de ADN pe măsură ce AI poate proiecta molecule noi

Uniunea Europeană ar trebui să introducă verificarea obligatorie a comenzilor de sinteză ADN în funcție de efectul biologic al secvențelor și să dezvolte capacitatea de a evalua modelele AI care proiectează proteine și material genetic, recomandă un nou studiu realizat pentru comisiile ITRE, ENVI și SANT ale Parlamentului European.

Analiza constată că inteligența artificială este deja utilizată în cercetarea biofarmaceutică, dezvoltarea vaccinurilor și biotehnologia industrială, în timp ce legislația europeană relevantă este împărțită între AI Act, normele biotech, legislația organismelor modificate genetic, controlul produselor cu dublă utilizare și obligațiile internaționale privind armele biologice.

Modelele biologice bazate pe AI operează într-un domeniu diferit de sistemele generative utilizate pentru text sau imagini. Ele pot învăța din secvențe de proteine sau ADN și pot genera variante biologice noi.

Unele instrumente sunt predictive. AlphaFold, de exemplu, estimează structura unei proteine pornind de la secvența sa. Alte instrumente pot funcționa în direcția inversă, pornind de la o funcție sau formă dorită și generând o structură și o secvență care ar putea produce efectul respectiv.

Această schimbare a redus puternic timpul necesar pentru anumite procese de proiectare. Studiul arată că instrumentele sunt deja integrate în cercetarea europeană pentru medicamente, vaccinuri, enzime industriale și alte aplicații biotehnologice.

Aceeași flexibilitate generează însă o problemă de biosecuritate. Un instrument capabil să proiecteze o proteină terapeutică poate, în principiu, să fie utilizat și pentru optimizarea unor proprietăți asociate toxicității, virulenței, transmisibilității sau evitării răspunsului imun.

Riscul nu provine întotdeauna dintr-un singur model foarte mare. Mai multe instrumente mici și disponibile public pot fi legate într-un flux în care unul generează structura unei proteine, altul scrie secvența de aminoacizi, iar un al treilea verifică dacă structura rezultată este cea intenționată.

Autorul consideră că actualul cadru european nu evaluează suficient această capacitate cumulată a unui întreg flux de lucru.

Un punct de control important apare atunci când designul digital devine material biologic. Sinteza ADN permite unui laborator sau unei companii să producă fizic o secvență comandată digital.

Furnizorii din industrie folosesc deja voluntar mecanisme de screening care compară comenzile cu baze de date de secvențe periculoase. Studiul avertizează însă că AI poate modifica suficient forma unei secvențe pentru ca o verificare bazată exclusiv pe similaritate să nu detecteze o funcție biologică problematică.

De aceea, una dintre principalele recomandări este trecerea către un screening care analizează și funcția posibilă a secvenței. Propunerea Biotech Act conține deja elemente privind obligativitatea verificării sintezei genetice, dar legislația este încă în proces de adoptare.

O a doua problemă este evaluarea modelelor propriu-zise. Studiul consideră că AI Act poate permite desemnarea unor modele biologice drept modele cu risc sistemic pe baza capabilităților lor, chiar atunci când nu ating pragurile implicite bazate pe cantitatea de calcul utilizată pentru antrenare.

În același timp, autorul recomandă o abordare diferită pentru instrumentele înguste și open-source care nu au caracterul general al modelelor fundamentale. Ideea este evitarea aplicării aceleiași poveri regulatorii unor instrumente cu profiluri de risc foarte diferite.

UE are însă și o problemă instituțională. Statele Unite și Regatul Unit au structuri publice care testează modele AI avansate inclusiv pentru riscuri chimice și biologice. Studiul constată că Uniunea nu are în prezent un organism echivalent dedicat evaluării modelelor biologice.

Autorul propune folosirea mecanismelor existente din AI Act și viitorul Biotech Act și dezvoltarea unui „Biothreat Radar” care să urmărească noile capacități și amenințări biologice în coordonare cu Convenția privind armele biologice.

Problema este și una de competitivitate. Raportul constată că cele mai avansate familii de modele biologice sunt dezvoltate în principal în Statele Unite și Regatul Unit, în timp ce Europa are o bază academică și biofarmaceutică importantă, dar nu aceeași capacitate la frontiera modelelor fundamentale.

Pentru UE, provocarea este astfel dublă. Reglementarea trebuie să reducă riscurile legate de transformarea unui design digital într-un material biologic periculos, fără să blocheze instrumentele folosite pentru cercetare medicală și industrială.

Studiul nu reprezintă însă legislație și nu este poziția adoptată a celor trei comisii parlamentare. El formulează opțiuni de politică publică care pot intra ulterior în dezbaterile privind AI Act, Biotech Act și normele de biosecuritate.