Vineri, doar câteva ore după ce a fost declarat câștigător, Wiener nu sărbătoa. Era preocupat. Ziua anterioară, organizația non-profit METR (Model Evaluation & Threat Research) publicase un raport interpretat pe larg ca o dovadă că Anthropic, unul dintre gigantii AI, ar fi reușit "auto-îmbunătățirea recursivă" – un fenomen în care sistemele de AI contribuie semnificativ la dezvoltarea propriului cod, făcând ca progresul tehnologic să iasă potrivit din controlul uman. "Este foarte îngrijorător", mi-a spus Wiener, citând raportul ca o evidență că timpul pentru reglementare se scurge dramatic. "Speram că Congresul va lua acțiuni decisive înainte de sfârșitul acestui an. Nu pare că acest lucru se întâmplă."
Nu este prima dată când Wiener sună alarma. În ultimii ani, a transformat siguranța AI într-un pilon al carierei sale politice. În cursul conversației noastre de 20 de minute, a folosit termenul "auto-îmbunătățire recursivă" de jumătate de zeci de ori, o semnificație clară a faptului că limbajul experților în siguranța AI a devenit limbajul său propriu politic. "Trebuie să încetinim acest lucru", afirmă el. "Pentru că se mișcă foarte repede, și putem adormi la volan și să intrăm într-un dezastru."
Istoricul legislativ al lui Wiener dovedește că nu este doar vorbă. În 2024, a elaborat SB 1047, un proiect de lege care urma să devină prima legislație națională serioasă care vizează modelele AI de frontieră (frontier AI). Proiectul a fost vetat de guvernatorul Gavin Newsom sub presiunea intensă a industriei tehnologice, dar Wiener nu a renunțat. A urmat să sprijine SB 53, o versiune "ușoară", pe care Newsom a semnat-o. Ambele inițiative au servit ca modele pentru propuneri legislative la nivel federal, demonstrând că California continuă să funcționeze ca laborator de democrație, în spiritul celebrei maxime a judecătorului Brandeis.
Calea sa spre Congres a fost, totuși, plină de controverse. Campania sa a primit peste 3 de milioane de dolari de la Public First Action, un non-profit pro-reglementare care primește fonduri semnificative de la Anthropic. Adversarii l-au acuzat că este prea aproape de industrie, o narativă pe care Wiener o respinge categoric. "Public First m-a susținut pentru că eram primul legislator din țară care a introdus reglementarea AI și primul care a reușit să o adopte și implementeze", mi-a scris ulterior. "Atacurile împotriva mea pentru susținerea lor au fost șocant de cinice – se atacă literalmente un candidat care a reglementat AI împotriva voinței Big Tech și se susține fals că candidatul este prea aproape de Big Tech."
Acum, în Capitol, Wiener are o agendă clară. Dacă democraticii vor forma un comitet select pentru inteligență artificială – o idee discutată din septembrie – el vrea să eniste. Îl entuziasmează propunerea colegului său californian, reprezentantul Ro Khanna, de a crea un regulator federal puternic, independenț și agil. Printre prioritățile sale numără: protecția denunțătorilor (whistleblowers) din laboratoarele de AI, cerințe obligatorii de testare și audit, și, cel mai critic, o cerință de "kill switch" – un mecanism de oprire de urgență pentru modelele periculoase. De asemenea, vrea să folosească puterile de supraveghere a Congresului pentru a trage la răspundere laboratoarele de dezvoltare AI.
"Aceasta ține de viitorul omenirii", spune el cu o gravitație rară în discursul politic curent. "Vrem să ne asigurăm că publicul are un cuvânt de spus și știe ce se întâmplă." Ca fost legislator de stat, Wiener se opune ferm la o preempție federală largă a legilor statale privind AI, prevăzută în unele propuneri naționale. "Statele sunt, cum spune Brandeis, laboratoare", notează. "Vrem ca statele să continue să fie agile în moduri în care Congresul uneori nu este."
Peste tot, Wiener vindecă realpolitik-ul. Se descrie ca fiind doar "prudent optimist" cu privire la capacitatea Congresului de a reglementa industria tehnologică, având în vedere istoricul slab al acestuia. Există, de asemenea, elefantul din cameră: președintele Donald Trump. Acesta a calificat preocupările privind riscul catastrophic al AI ca o "minciună" în septembrie și a demonstrat o refuz categoric de a colabora cu China – o colaborare pe care Wiener o consideră esențială pentru a prevența cele mai grave consecințe ale cursei la armamente AI. Totuși, Wiener găsește o notă de speranță în haosul trumpist: "Până acum am văzut lucruri problematic, dar nu dezastru total. Sper că nu va fi nevoie de un dezastru ca să acționeze președintele. Și dacă este nevoie – sper că nu – sper să fie cât se poate de mic."
Nu este singur în această luptă. Senatorul Bernie Sanders s-a întâlnit cu figuri de frunte ale mișcării pentru siguranța AI și a vorbit repetat despre riscul existențial. Dar există un abis între perspectiva "AGI-pilled" (obsedată de Inteligența Generală Artificială) a Bay Area și disposiția națională, ancorată în opoziția la centrele de date. Faptul că alegătorii au aprobat 40 din 41 inițiative locale anti-centre de date marți ar putea părea o victorie pentru reglementare, dar Wiener face o distincție crucială: "Oamenilor care sunt cu adevărat opuși direcției în care merge AI – aceasta este o zonă în care pot face ceva concret. Dar revolta împotriva centrelor de date – cred că e mai mult legată de faptul că oamenii sunt supuși că ar putea fi ceva de genul acesta în comunitatea lor, cu impacturi lângă case, creșterea facturilor la curent și consumul de apă. Cred că asta e problema mai mare pentru majoritatea oamenilor."
Într-o epocă în care hype-ul AI este la maxim, iar capacitățile modelelor avansă mai repede decât capacitatea societății de a le înțelege, Scott Wiener aduce în Congres ceva rar: o competență tehnică profundă combinată cu voința politică de a acționa. Victoria sa nu este doar o poveste locală din San Francisco; este un semnal că debatele filozofice din laboratoarele din Silicon Valley au ajuns, în cele din urmă, pe masa legislaților. Rămâne de văzut dacă Congresul va reuși să acționeze înainte ca fereastra de oportunitate să se închidă, sau dacă, așa cum teme Wiener, vom "adormi la volan" spre un dezastru pe care nu-l mai putem opri.
De ce este important:
Intrarea lui Scott Wiener în Congres marchez momentul în care siguranța AI (AI Safety) trece de la marginea discuțiilor academice și de think-tank-uri în inima procesului legislativ federal american. El nu este un politician care "a auzit de AI", ci un legislator care a încercat deja să scrie legi, a luptat cu guverne și industrie, și care vorbește limba riscurilor existente (recursive self-improvement, loss of control). Faptul că preia scaunul lui Pelosi în San Francisco – epicentrul dezvoltării AI – îi dă o legitimitate și o vizibilitate unice. Dacă Congresul va acționa în următorii ani, Wiener va fi probabil arhitectul sau cel puțin inginerul principal al cadrului regulativ. Dacă nu va acționa, avertismentele sale vor rămâne ca o profecie autoîmplinită a unei epoci în care politica a rămas în urmă fața de tehnologie.
