Amodei a spus în postarea de pe blogul publicată luni că vede modelele open-weight ca aparținând unei categorii diferite față de amenințarea pe care o reprezintă China. „Modelele open-weight care nu au capacități periculoase sunt un bun public: nu costă nimic în afară de puterea de calcul necesară pentru a le rula și oferă valoare afacerilor, dezvoltatorilor și cercetătorilor.” El a adăugat că temerile sale de lungă durată legate de AI nu includ utilizarea modelelor open-weight de către afaceri, chiar și a celor din China. Îngrijorarea sa reală este că „guvernele autoritare” vor construi modele mai puternice decât cele din SUA pentru a obține „superioritate militară permanentă” și/sau pentru a-și oprima propriul popor. El a spus că Partidul Comunist Chinez (PCC) nu este singurul guvern autoritar de care se teme, dar este „cel mai capabil”.
Amodei a mai spus că se teme că AI va permite „atacuri biologice”, nu doar cibernetice. Și, în opinia sa, modelele open-weight sunt mai periculoase în aceste scenarii, deoarece este dificil să li se aplice măsuri de siguranță sau să le monitorizezi utilizarea. El a notat, citând un raport al Institutului de Securitate AI din Marea Britanie, că odată ce greutățile deschise sunt lansate, ele nu pot fi retrase. Acest lucru contrazice ceea ce susțin susținătorii open-source: că accesul la modele puternice deschise, necontrolate de o singură entitate, îi ajută pe apărători să se protejeze.
Amodei a enumerat acțiuni pe care le consideră eficiente pentru a contracara China, inclusiv restricționarea accesului acesteia la cipuri puternice (o politică de lungă durată a SUA) și solicitarea unei represiuni formale împotriva distilării. SUA a amenințat cu sancțiuni împotriva Chinei dacă se stabilește că există furt de proprietate intelectuală care implică modele americane. Interesant, Amodei a spus și că sprijină eforturile tot mai mari, unele conduse de SUA, de a crea o organizație de testare a siguranței modelelor, mai ales dacă întreaga lume, inclusiv China, ar fi de acord să se supună acesteia. „Cred că această idee este de fapt aproape de un consens: am fost încurajat că administrația Trump s-a mișcat în această direcție în ultimele luni”, a scris Amodei. „Rețineți că, pentru a fi eficientă, testarea ar trebui să fie globală, ceea ce înseamnă că chiar și PCC ar trebui să fie de acord. Cred că acest lucru poate fi posibil... cooperarea limitată în jurul prevenirii armelor biologice AI poate fi posibilă pentru că este și în interesul Chinei.”
Contextul acestei declarații este crucial. În ultimele luni, tensiunile dintre SUA și China în domeniul inteligenței artificiale s-au intensificat. Pe de o parte, companii americane precum OpenAI și Google investesc masiv în modele proprietare, în timp ce giganți chinezi precum Baidu, Alibaba și Tencent își dezvoltă propriile modele, adesea cu ajutorul unor tehnici controversate. Distilarea, menționată de Amodei, este o practică prin care un model mai mic „învață” de la unul mai mare, uneori fără permisiune. Aceasta a devenit o problemă geopolitică, SUA acuzând China de furt de proprietate intelectuală. În același timp, comunitatea open-source susține că modelele deschise democratizează accesul la AI și stimulează inovația. Poziția lui Amodei este una nuanțată: nu se opune modelelor open-weight în sine, ci le consideră periculoase atunci când au capacități avansate care ar putea fi folosite în scopuri rău intenționate. El face o distincție clară între modelele open-weight „inofensive” și cele care ar putea fi utilizate pentru arme biologice sau cibernetice.
Reacțiile din industrie nu au întârziat să apară. Unii experți au lăudat claritatea lui Amodei, în timp ce alții au criticat faptul că nu a condamnat explicit eforturile de a interzice modelele open-weight chinezești. „Este o poziție diplomatică, dar nu rezolvă problema de fond”, a declarat un analist. „Pe de o parte, spune că nu vrea interdicții, pe de altă parte, susține restricții asupra cipurilor și măsuri împotriva distilării, ceea ce practic limitează accesul Chinei la tehnologie.”
În plus, propunerea lui Amodei de a crea o organizație globală de testare a siguranței modelelor este văzută ca un pas curajos, dar dificil de implementat. China a respins în trecut orice formă de supraveghere externă, iar cooperarea în domeniul securității cibernetice este aproape inexistentă. Totuși, Amodei pare optimist, sugerând că prevenirea armelor biologice ar putea fi un interes comun. „Dacă ambele părți realizează că un atac biologic ar putea scăpa de sub control și afecta pe toată lumea, poate că vor găsi un teren comun”, a comentat un cercetător în domeniul securității.
Pe de altă parte, scrisoarea deschisă a Nvidia și a celorlalte companii a fost un semnal puternic că industria nu dorește restricții pripite. „Modelele open-weight sunt motorul inovației”, a spus un purtător de cuvânt al Hugging Face. „A le interzice ar însemna să încetinim progresul și să pierdem avantajul competitiv.” Cu toate acestea, poziția lui Amodei arată că există o divizare în rândul liderilor tech: unii pun accent pe securitate, alții pe deschidere.
În concluzie, declarația lui Dario Amodei aduce o clarificare binevenită, dar nu pune capăt dezbaterii. Pe măsură ce AI devine din ce în ce mai puternic, echilibrul dintre inovație și securitate va fi din ce în ce mai greu de menținut. Rămâne de văzut dacă propunerea sa de testare globală va prinde contur sau dacă tensiunile dintre SUA și China vor escalada și mai mult.
