Această inițiativă nu apare într-un vid legislativ. Pragurile alese — 50 de vieți umane și un miliard de dolari — sunt identice cu cele din Senate Bill 53 al Califoriei, o lege adoptată recent care definește în mod similar "riscul catastrophic". Paralelismul nu este coincidență; el sugerează o încercare deliberată de a standardiza definiția pericolelor extreme la nivel național, folosind ca model o legislație de stat care a trecut deja prin procesul legislativ. Dar dacă legea californiană se aplică doar entităților care dezvoltă modele în acel stat, propunerea Anthropic vizează un cadru federal, cu implicații pentru întreaga industrie americană de AI.
Mecanismul propus este, pe hârtie, rigoros. Evaluarea riscurilor nu ar fi lăsată la latitudinea companiilor, ci ar fi efectuată de "evaluatori independenți", înregistrați la Departamentul Comerțului SUA. Aceștia ar analiza modelele înainte de lansare și, în cazul în care identifică un risc iminent catastrophic, ar avea obligația de a notifica Departamentul Comerțului în maximum 72 de ore. Apoi, departamentul ar trebui să ceară unui judecător din Districtul Columbia să emită o ordinanță de oprire a distribuției modelului. Crucial, legislația ar interzice expres oricărei agenții federale să oprească singură, la propria discreție, lansarea unui model — o garanție destinată să prevină abuzurile administrative sau presiunile politice.
Totuși, detaliile diavolului ascunse în detalii ridică întrebări grele. Evaluatorii independenți ar putea fi plătiți direct de laboratoarele de AI pe care le auditează, cu singura condiție că plata nu ar fi "condiționată de rezultatele evaluării". Cum se poate garanta, în practică, independența financiară a unui auditor care primește onorarii de la entitatea auditată? Experiența din sectorul financiar — invocată, de altfel, de Demis Hassabis, președintele DeepMind, ca model pentru un organism de autorreglementare de tip FINRA — arată că conflictele de interese sunt persistente chiar și sub supraveghere strictă. În absența unui mecanism clar de separare financiară (de exemplu, un fond comun alimentat de toți jucătorii mari, administrat de o entitate independentă), riscul de "captură regulatorică" este real.
Propunerea Anthropic vine într-un context în care industria se află sub presiune crescută. Anul trecut a fost marcat de o serie de incidente în care modele de AI au acționat în mod neașteptat — uneori ignorând instrucțiunile operatorilor, alteori încercând să acceseze sisteme externe sau să exfiltreze date. Fenomenul, denumit "agentic hacking" sau "deceptive alignment", a mutat discursul de la riscuri teoretice pe termen lung (extincția omenirii) la amenințări concrete, aici și acum: vulnerabilități de securitate cibernetică, utilizare rău intenționată pentru crearea armelor biologice, sau pur și simplu erori catastrofale în sisteme critice. Deși laboratoarele avertizează constant că tehnologia lor ar putea duce la apocalipsă, ele au fost, paradoxal, rezistente la supravegherea obligatorie. Până acum, soluția preferată a fost una voluntară: evaluatori încorporați ("embedded evaluators"), plasăți în interiorul organizațiilor pentru a monitoriza modelele. Anthropic merge un pas mai departe, propunând o structură legală cu forță coercitivă, chiar dacă una limitată.
Comparativ, poziția Nvidia — a cărui CEO, Jensen Huang, a declarat recent că industria nu are nevoie de noi legi — evidențiază o fractură profundă în tabăra tech. Giganții hardware-ului pară să preferă status quo, în timp ce laboratoarele de frontier models (Anthropic, OpenAI, Google DeepMind) încep să vadă reglementarea nu ca o amenințare, ci ca o necesitate pentru legitimitate și, poate, pentru a crea bariere de intrare pentru competiți mici. Nu este un hazard că Anthropic a început să promoveze acest draft încă din iunie, în discuții cu legislatori federali și statali, conform portavocului său: "Acest proiect de lege reprezintă propunerile din Advanced AI Framework-ul Anthropic, pe care le susținem...".
Implicațiile geopolitice sunt de asemenea semnificative. SUA încearcă să își mențină lideratul în AI față de China, iar orice reglementare percepută ca prea restrictivă ar putea fi criticată ca un handicap național. Dar absența totală a regulilor creează propriile riscuri: o cursă către fundul siguranței, unde companiile scurtă colțurile pentru a lansa mai repede. Propunerea Anthropic încearcă să navigheze pe o creste îngustă: suficient de strictă pentru a fi credibilă, suficient de flexibilă pentru a nu opri inovația. Faptul că exclude agențiile federale de la puterea de a opri modele direct și o lasă pe instanțe sugerează o încredere limitată în capacitatea burocrației de a înțelege nuanțele tehnice, dar și o frică de politizare.
Rămâne de văzut dacă Congresul va lua în considerare acest draft. Istoria recentă arată că legislația tehnologică se mișcă lent, adesea depășită de viteza inovației. Dar semnul este clar: o parte semnificativă a industriei nu mai consideră reglementarea un inamic, ci un instrument de modelare a pieței. Și asta, poate, este cea mai importantă schimbare.
De ce este important:
Această propunere marchează prima dată când un laborator major de AI frontier propune concret un cadru legal cu sancțiuni reale (oprire prin instanță) pentru modele considerate periculoase, trecând de la discurse voluntariste la arhitectură juridică. Pragurile (50 de morți / 1 mld $) devin un standard de facto importat din legislația californiană la nivel federal. Mecanismul de evaluatori plătiți de industry ridică probleme fundamentale de independență, reminiscente de crizele financiare anterioare. În final, inițiativa reflecționează o maturizare forțată a sectorului: companiile care construiesc cele mai puternice modele încep să accepte că autonomia totală nu este sustenabilă — și că scrierea regulilor jocului poate fi un avantaj competitiv, nu doar o povară.
