Nvidia nu pierde vremea: La o săptămână după formarea unui grup industrial pentru AI deschis, progresele sunt deja vizibile

În lumea tehnologiei, viteza cu care se mișcă lucrurile este adesea amețitoare, dar ceea ce a reușit Nvidia în ultima săptămână depășește orice așteptări. Săptămâna trecută, gigantul producător de cipuri a anunțat formarea Alianței Deschise pentru Securitate AI (OSAA), un grup industrial menit să promoveze transparența și colaborarea în domeniul inteligenței artificiale. Ei bine, nu a trecut nici măcar o săptămână, iar OSAA a și demonstrat că nu glumește. La conferința Black Hat, epicentrul mondial al securității cibernetice care se desfășoară în această perioadă la Las Vegas, grupul a anunțat crearea unui grup de lucru cu un nume simpatic – Shared AI Findings Exchange, sau SAFE. Practic, este un mecanism prin care membrii alianței pot raporta incidente de securitate legate de AI, pot alerta părțile afectate și pot face analize fără a da vina pe nimeni, astfel încât toată lumea să învețe din greșeli. Propunerile sunt deja disponibile pentru comentarii publice, iar Fundația Linux, membră a grupului, se ocupă de gestionarea lor. Deocamdată, ghidurile nu sunt nimic revoluționar – acoperă aspecte de bază, cum ar fi raportarea confidențială a incidentelor și notificarea celor afectați. Dar ceea ce contează cu adevărat este direcția: OSAA vrea să creeze un cadru deschis, open source, care să permită companiilor să își securizeze agenții AI sau să se apere împotriva atacurilor venite de la modele AI rău intenționate, precum celebrul caz al modelului OpenAI care a infiltrat platforma Hugging Face (da, Hugging Face este și el membru al acestui grup). Și nu doar Nvidia contribuie. Alianța a crescut deja la peste 120 de companii, iar nume grele precum Adobe, BlackRock, Cisco, Intel, Microsoft și Visa s-au alăturat. Fiecare aduce ceva la masă: Nvidia oferă o întreagă familie de modele deschise și un scanner de vulnerabilități pentru LLM-uri numit Garak; Okta lucrează la tehnologie de identitate pentru agenți; Red Hat se concentrează pe guvernanța agenților; Amazon a contribuit cu un instrument open source pentru construirea de agenți, Strands Agents, și cu un limbaj de autorizare numit Cedar. Și lista continuă. Totuși, ceea ce sare în ochi este absența unor nume grele: Anthropic, OpenAI și Google. Interesant este că atât OpenAI, cât și Google au semnat scrisoarea deschisă care a stat la baza formării acestui grup. Scrisoarea, publicată săptămâna trecută, îndemna Casa Albă să sprijine eforturile open source în AI, nu să le suprime. A fost susținută de Nvidia și semnată de peste 200 de companii tech. Dacă refuzul lui Anthropic de a se alătura nu este o surpriză – compania este cunoscută pentru poziția sa mai conservatoare privind deschiderea modelelor –, atitudinea lui OpenAI și Google este mai greu de înțeles. Google, de exemplu, este un susținător tradițional al open source-ului, iar OpenAI a lansat și el modele cu greutăți deschise. Rămâne de văzut dacă se vor alătura pe măsură ce grupul capătă avânt. Contextul politic este, de asemenea, important. Totul a început acum câteva săptămâni, când s-a aflat că administrația Trump ia în considerare interzicerea modelelor chinezești cu greutăți deschise. Această posibilă măsură a stârnit îngrijorare în industrie și a dus la scrisoarea deschisă. Indiferent de ce se va întâmpla în final cu modelele chinezești în SUA, acțiunea rapidă a acestui grup greu pare să fie un lucru bun pentru ecosistemul american de AI deschis. Unii din ecosistem, precum co-fondatorul și CTO-ul laboratorului american de AI cu greutăți deschise Arcee, consideră că aceasta este, în cele din urmă, calea de a învinge orice amenințare – reală sau imaginară – pe care o reprezintă laboratoarele chinezești de AI pentru Statele Unite. „Deschiderea poate fi una dintre cele mai importante căi către siguranța și securitatea AI”, au scris membrii acestui grup industrial în scrisoarea lor. Și se pare că sunt gata să își pună imediat eforturile – și tehnologia – acolo unde au spus-o. Ce înseamnă asta pentru viitor? În primul rând, demonstrează că industria AI poate reacționa rapid atunci când este motivată. În al doilea rând, arată că open source-ul nu este doar o modă, ci o strategie serioasă de securitate. Dacă OSAA reușește să își atingă obiectivele, am putea asista la nașterea unor standarde globale pentru securitatea AI, care să fie adoptate de guverne și companii deopotrivă. Și, nu în ultimul rând, este un semnal clar că Nvidia, deși este cunoscută mai ales pentru hardware-ul său, vrea să joace un rol central și în definirea modului în care AI-ul este construit și protejat. Rămâne de văzut dacă OpenAI și Google se vor alătura, dar până atunci, OSAA merge înainte cu viteză maximă. Și, așa cum spuneam, Nvidia nu pierde vremea.

De ce este important:

Această inițiativă este crucială pentru că stabilește un precedent în ceea ce privește colaborarea deschisă în domeniul securității AI, într-un moment în care amenințările cibernetice devin din ce în ce mai sofisticate. Dacă reușește, OSAA ar putea crea un ecosistem în care companiile, indiferent de mărime, să aibă acces la instrumente și protocoale comune pentru a-și proteja sistemele AI. În plus, demonstrează că open source-ul poate fi o soluție viabilă pentru probleme de securitate la scară largă, contrazicând ideea că doar soluțiile proprietare sunt sigure. Pe termen lung, acest tip de colaborare ar putea influența reglementările guvernamentale și ar putea ajuta la prevenirea unor incidente catastrofale în domeniul AI.