Programul se bazează pe trei piloni, conform companiilor: prevenirea utilizării abuzive, detectarea mai rapidă a focarelor și răspunsul odată ce un focar sau un atac este în desfășurare. Cele peste 15 parteneriate construite în ultimul an acoperă toți acești trei piloni, deși actualizarea oferă detalii limitate despre organizațiile implicate, dincolo de câțiva colaboratori numiți, inclusiv Lawrence Livermore National Laboratory, UK AI Security Institute, CEPI și Francis Crick Institute. DeepMind spune că intenționează să extindă aceste relații în următoarele șase până la douăsprezece luni, atenția îndreptându-se către informațiile despre amenințări, metodele de evaluare pentru agenții AI și atenuarea jailbreak-urilor. De asemenea, coordonează cu Frontier Model Forum întrebări precum cum să gestioneze categorii mai riscante de date de antrenament, seturile de date de virologie fiind exemplul dat.
Munca de prevenire se bazează pe modelarea amenințărilor, concepută pentru a identifica care actori sunt cel mai probabil să încerce o utilizare abuzivă și ce blocaje îi opresc în prezent. DeepMind spune că folosește un amestec de red-team expert și studii controlate randomizate pentru a evalua dacă Gemini ar putea ajuta pe cineva să depășească aceste blocaje. Metodele post-antrenament sunt menite să învețe modelul să refuze întrebări dăunătoare, evitând în același timp ceea ce compania numește „refuz excesiv” al întrebărilor științifice legitime, un echilibru care s-a dovedit dificil în întreaga industrie, nu doar pentru DeepMind. Clasificatoare și sonde sunt implementate pentru a semnala activități riscante în timp real, iar compania spune că efectuează analize direcționate ale jurnalelor pentru a prinde modele de utilizare abuzivă mai subtile pe care filtrele automate le-ar putea rata. Niciuna dintre aceste măsuri de atenuare nu este descrisă ca fiind rezolvată. DeepMind le prezintă ca pe un proces continuu, mai degrabă decât un sistem finalizat, ceea ce contează pentru orice întreprindere sau organism guvernamental care evaluează dacă să se bazeze pe garanțiile în configurația actuală. Un clasificator reglat pe modele cunoscute de jailbreak într-o evaluare controlată nu garantează o performanță echivalentă împotriva metodelor de atac noi care apar în utilizarea live, iar compania nu susține altceva.
Unul dintre riscurile mai concrete explorate implică sinteza ADN-ului. Companiile din cadrul International Gene Synthesis Consortium (IGSC) examinează în prezent comenzile pe baza listelor de agenți patogeni și toxine cunoscuți, asociate cu algoritmi de screening. DeepMind afirmă clar că această abordare începe să cedeze, deoarece AI poate acum ajuta la proiectarea secvențelor de ADN cu o funcție similară unui agent patogen periculos, fără a se potrivi suficient de bine cu secvența sa pentru a declanșa filtrele existente. Soluția propusă împrumută de la sistemul de marcare existent al DeepMind, SynthID, despre care compania spune că a devenit un standard industrial pentru marcarea imaginilor și textelor generate de AI. Adaptarea acestuia la secvențe biologice este prezentată ca o muncă exploratorie, nu ca un produs lansat. Un obiectiv pe termen mai lung, descris ca o provocare tehnică deschisă, mai degrabă decât ceva aproape de rezolvare, implică screening care să prezică dacă o nouă secvență de ADN este probabil toxică sau patogenă pe baza funcției sale, indiferent dacă seamănă cu ceva din bazele de date existente.
Detectarea se bazează pe secvențierea metagenomică, care caracterizează fiecare microorganism dintr-o probă, mai degrabă decât să verifice o listă scurtă de agenți patogeni cunoscuți, așa cum fac diagnosticele tradiționale. Factorul limitativ este costul, iar extinderea abordării în regiunile în care focarele sunt cel mai probabil să apară necesită ca acest cost să scadă considerabil. DeepMind indică o colaborare între Google și Pacific Biosciences care a folosit agentul său de codare AlphaEvolve pentru a îmbunătăți acuratețea secvențierii ca un punct de date spre acest obiectiv. Compania spune că acum caută oportunități suplimentare – de la optimizarea algoritmilor care procesează datele de secvențiere, până la informarea proiectării hardware – și explorează separat dacă AlphaGenome ar putea ajuta la caracterizarea agenților patogeni direct din datele de secvențiere. Acestea rămân colaborări de cercetare, mai degrabă decât sisteme implementate pe teren, iar distanța dintre o îmbunătățire a acurateței secvențierii într-un pipeline controlat și o rețea funcțională de avertizare timpurie în stațiile de epurare și nodurile de tranzit din medii cu resurse limitate nu este mică.
Pilonul de răspuns se bazează pe decalajul de contramăsuri medicale care lasă mulți agenți patogeni cunoscuți fără un diagnostic, vaccin sau tratament autorizat. DeepMind citează peste 10.000 de publicații despre boli infecțioase care au făcut referire la AlphaFold în cinci ani, acoperind lucrări despre transmiterea tuberculozei și malariei și cartografierea țintelor pentru amenințări precum Mpox și Nipah. Cea mai nouă adăugire la acest record este un parteneriat cu programul de bio-reziliență al Lawrence Livermore, care intenționează să folosească AlphaFold 3 pentru proiectarea de anticorpi cu spectru larg, inclusiv un efort pentru anticorpi pan-filovirus. DeepMind spune că va continua să adauge structuri și complexe proteice în baza de date AlphaFold Protein Structure Database în acest an, prioritizând ținte relevante pentru dezvoltarea de contramăsuri. Accesul la sistemele mai noi de agenți, inclusiv Co-Scientist, este extins către cercetători selectați, printre care oameni de știință din cadrul CEPI și Francis Crick Institute.
De ce este important:
Inițiativa DeepMind și Isomorphic Labs marchează un pas crucial în gestionarea riscurilor asociate cu inteligența artificială în domeniul biologiei. Pe măsură ce modelele de frontieră devin tot mai puternice, potențialul de utilizare duală – atât pentru bine, cât și pentru rău – crește exponențial. Abordarea pe trei piloni (prevenire, detectare, răspuns) oferă un cadru coerent pentru a echilibra inovația științifică cu securitatea. Parteneriatele cu laboratoare naționale, institute de cercetare și organizații de biosecuritate arată că aceasta nu este doar o teorie, ci o acțiune concretă. Provocările rămân semnificative: costul secvențierii metagenomice, adaptarea sistemelor de marcare la secvențe biologice și menținerea unui echilibru între securitate și accesul deschis la cunoștințe. Totuși, faptul că DeepMind recunoaște deschis limitele actuale și tratează aceste măsuri ca pe un proces continuu, nu ca pe o soluție finală, este un semn de maturitate. Pentru guverne, companii și cercetători, această inițiativă oferă un model de urmat în dezvoltarea responsabilă a AI-ului, mai ales în domenii sensibile precum biologia sintetică și sănătatea globală.
