„Inițial, laboratoarele de frontieră ar împărtăși voluntar modelele cu organismul de standarde pentru revizuire, cu până la 30 de zile înainte de lansare”, scrie Hassabis în postare. „Odată ce protocolul de evaluare se dovedește eficient și robust, formalizarea ar putea urma rapid, ceea ce înseamnă că modelele de frontieră ar fi obligate să treacă de acest test pentru a fi implementate pe piața americană. Laboratoarele ar colabora, de asemenea, cu organismul de standarde pentru a remedia orice vulnerabilități critice post-lansare.”
Sistemul propus vine după ce guvernul american a efectuat evaluări ad-hoc asupra modelelor Mythos de la Anthropic și Sol de la OpenAI. Aceste evaluări au atras critici semnificative din cauza lipsei de expertiză tehnică și a procesului opac de decizie privind momentul lansării. În viziunea lui Hassabis, un nou organism, susținut de guvernul SUA, dar finanțat de industria AI și operat independent, ar putea prelua aceste decizii.
Prospectul reglementării AI rămâne controversat atât pentru industria tech, cât și pentru administrația Trump. Recent, Sriram Krishnan, consilierul Casei Albe pentru AI și partener general la a16z, a exclus posibilitatea unui regulator AI în cadrul puterii executive, declarând că „nu va exista un FDA pentru AI”. Stabilirea organismului de standarde ca organizație de autoreglementare, similară FINRA, ar putea fi o modalitate de a aborda aceste preocupări.
Hassabis își imaginează regulatorul format din reprezentanți open-source și experți tehnici din industrie, cu sprijin financiar din partea laboratoarelor AI, necesar pentru a-i reține. Aceștia ar putea chiar externaliza unele evaluări către grupuri tot mai numeroase de siguranță AI, specializate în riscuri specifice.
„Punctul forte al acestei abordări este că ar fi concentrată tehnic, sprijinind în același timp inovația și stimulând comportamentul responsabil”, argumentează Hassabis. „Este concepută să țină pasul cu accelerarea domeniului și să se adapteze la cele mai mari riscuri pe măsură ce sunt identificate, și ar putea fi intensificată dacă gravitatea situației o impune.”
Analiză: O mișcare strategică sau o necesitate?
Propunerea lui Hassabis nu este doar o simplă idee de reglementare – este o declarație politică semnificativă. Într-un moment în care administrația Trump se arată sceptică față de orice formă de control guvernamental asupra AI, ideea unui organism autoreglementat, finanțat de industrie, dar cu puteri reale de testare și certificare, ar putea fi singura cale viabilă. FINRA, modelul invocat, este o organizație non-guvernamentală care supraveghează brokerii de valori, având autoritate delegată de guvern. Similar, un „FINRA al AI” ar putea evita birocrația federală, păstrând în același timp un standard de siguranță.
Criticii vor spune că autoreglementarea nu a funcționat întotdeauna în alte industrii – criza financiară din 2008 a arătat limitele FINRA. Dar Hassabis pare conștient de acest risc și propune un mecanism de „ratchetă” care poate fi strâns pe măsură ce pericolele devin mai clare. De asemenea, includerea reprezentanților open-source este o mișcare inteligentă pentru a câștiga legitimitate în comunitatea tech.
Ce lipsește din propunere? Detalii despre cum se vor face testările, ce criterii vor fi folosite și cum se va asigura transparența. Fără acestea, riscăm să înlocuim un proces opac cu altul. Totuși, inițiativa merită atenție, mai ales că vine de la unul dintre cei mai influenți lideri AI.
De ce este important:
Această propunere marchează o schimbare de paradigmă în dezbaterea despre reglementarea AI. În loc să aștepte ca guvernele să impună reguli de sus în jos, industria începe să caute soluții de autoreglementare care să prevină catastrofele înainte ca ele să se producă. Dacă va fi adoptată, ar putea deveni modelul global pentru gestionarea riscurilor asociate inteligenței artificiale de frontieră – de la deepfake-uri la arme autonome. Pentru publicul larg, înseamnă că produsele AI pe care le folosim zilnic ar putea fi mai sigure, dar și că ritmul inovației ar putea încetini. Este un echilibru fragil, dar necesar.
