Contextul este unul de criză lentă, dar profundă. Această săptămână, Jacob Coxon, un cercetător de la Anthropic, a demisionat public, acusând companiile de top că "pariază cu viețile noastre" în timp ce cei care construiesc tehnologia "cred cu adevărat că ar putea să ne omoare pe toți până la sfârșitul deceniului". Amodei nu a menționat explicit demisia lui Coxon în articolul său de pe blog, dar a recunoscut două evenimente care l-au convingut că este timpul pentru o abordare mai prudentă: incidentul de securitate OpenAI-Hugging Face și faptul că "AI-ul a avansat drastic mai repede" în ultimele luni, în special capacitatea sa de a construi următoarea generație de AI. "Trebuie să încetinim ritmul la care îmbunătățim capacitățile modelelor AI", scrie Amodei. "Progresul va părea tot rapid, și trebuie să foloseștem înțelept timpul pe care îl câștigăm."
Primul pilon al planului este cel mai concret și, probabil, cel mai controversat: "evaluatori embeddați" din organizații terțe independente, precum METR (Model Evaluation and Threat Research). Aceștia nu sunt simpli auditori care vin o dată pe an; Amodei propune să li se dea badge-uri de companie, birouri, laptop-uri și acces "majoritar comparabil cu cel al echipelor interne de evaluare a riscurilor", cu excepții doar când legea sau contractele o impun. Analogia pe care o folosește CEO-ul este revelatoare: evaluatorii ar funcționa ca regulatorii embeddați în bănci, care au vizibilitate directă asupra operațiunilor zilnice, nu doar pe rapoarte trimestriale. Anthropic se angajează unilateral să facă acest lucru și cheamă guvernele să impună același standard și altor companii de frontieră. Altman a validat ideea: "Este o idee bună. Vom avea mai multe de comunicat în curând."
Al doilea pilon vizează coordonarea între companiile de top din țările democratice. Amodei cere "standarde comune de siguranță, precum și limite ale ratei progresului AI necontrolat". Aici intervine un obstacol structural major: legile antitrust. Companiile se tem că o pauză coordinată ar putea fi interpretată ca cartelizare. Amodei recunoaște riscul și propune o soluție pragmatică: "Din motive antitrust, este util ca guvernul SUA să medieze sau cel puțin să permită aceste discuții – nu trebuie să participe, dar trebuie să emită o derogare restrânsă pentru anumite tipuri de conversații de siguranță." Este o cerere subtilă dar puternică: statul să creeze un cadru legal protejat pentru cooperarea pe care piața o interzice de facto.
Argumentul contrar clasic – "dacă noi ne oprim, China ne depășește" – primește un răspuns strategic, nu moral. Amodei susține că dacă SUA și aliații săi refuză să vândă chipuri puternice sau echipamente de producere a semiconductorilor către companiile chineze, și dacă se acționează ferm împotriva distilării modelelor (tehnica prin care un model mic învață de la unul mare), atunci "progresul Chinei poate fi încetinit suficient ca să lărgească avansul Americii semnificativ pe 3-5 ani". Este o pariere pe asimetrie hardware și pe controlul exporturilor, nu pe viteza softului.
Al treilea pilon, cel mai ambițios și cel mai incert, este "coordonarea globală". Amodei propune ca SUA și aliații să "încearcă să coordoneze cu guverne autoritare, în măsura în care acest lucru este posibil". Recunoaște "limite aspre ale ceea ce poate fi realizat", dar sugerează că ar putea exista spațiu pentru acorduri pe interziceri "înguste și evident periculoase", cum ar fi utilizarea AI pentru producerea... (textul se oprește brusc, dar contextul sugerează arme biologice, chimice sau cibernetice autonome).
Reacția industriei a fost rapidă și, surprinzător, pozitivă. Pe lângă Altman și Musk, voce importante din cercetarea de siguranță AI au lăudat concretitudinea propunerilor. Totuși, scepticii – și sunt mulți – îndoiesc că evaluatorii embeddați vor avea putere reală de veto, sau că derogarea antitrust va fi emisă de un Congres polarizat, sau că China va accepta orice limitare verificabilă. Există și riscul că "încetinirea" devină un eufemism pentru consolidarea avansului actual al liderilor, blocând noii intranți.
Ce este diferit de data aceasta? Nu sunt cuvinte, sunt mecanisme. Evaluatori embeddați cu acces la cod și date. O cerere explicită de imunitate antitrust pentru discuții de siguranță. O strategie de contenare a Chinei bazată pe hardware, nu pe speranțe. Și, poate cel mai important, un CEO al unei companii de 18 miliarde dolari valoare care spune public: "Ne angajăm să ne lăsăm pe alții să ne verifice lucrul, chiar dacă nu suntem obligați legal."
Rămâne întrebarea de fond: este suficient? Cercetătorii de alignment precum Paul Christiano sau Eliezer Yudkowsky ar argumenta că încetinirea frontierei de capacități nu rezolvă problema aliniării – doar ne dă mai mult timp să o rezolvăm. Dar timpul, în acest domeniu, este singura resursă non-renovabilă. Planul lui Amodei nu garantează siguranța; garantează doar că nu vom intra în zona de pericol cu ochii închiși și accelerația la maxim.
De ce este important:
Acest articol nu este doar o știre corporativă – este documentul fondator al unei noi eră a guvernanței AI. Pentru prima dată, liderii tehnologici nu cer regulamentare (ceea ce înseamnă să aștepți că politici să legifereze), ci propun auto-regulamentare instituționale cu dinți: evaluatori independenți cu acces la sursă, derogări antitrust negotiate, strategii de contenare geopolitică. Dacă planul funcționează, devine modelul pentru orice tehnologie exponențială viitoare (biologie sinteză, computare cuantică). Dacă eșuează – dacă evaluatorii sunt blocați, derogarea nu vine, China accelerează –, avem dovezi că industria nu se poate autogoverna și că intervenția statală dură devine inevitabilă. Pentru cititorul român, relevanța este directă: România, ca parte a UE și NATO, va fi afectată de standardele globale de siguranță AI, de controalele de export ale chipurilor și de orice tratate internaționale care vor urma. Nu suntem jucători la masă, dar suntem jucători la masă a deciziilor care ne vor afecta infrastructura, securitatea și economia.
