„Sincer, nu am vizibilitate asupra acestor procese exacte, așa că da, nu simt că am suficiente informații pentru a spune dacă sunt adecvate sau nu”, a declarat Mina Narayanan, analist senior de cercetare la Centrul pentru Securitate și Tehnologie Deschisă de la Georgetown, pentru TechCrunch. „Anthropic a spus că a avut discuții cu guvernul și că a dezvoltat un clasificator pentru a detecta încercările de jailbreak și a implementat strategii defensive pentru a preveni viitoarele atacuri, dar exact cum a arătat dialogul dintre guvern și Anthropic și OpenAI rămâne neclar.”
Dean W. Ball, fost consilier de politici al lui Trump care acum lucrează pentru OpenAI, a scris în newsletter-ul său luna trecută că „nimeni nu știe care sunt cerințele pentru a obține o licență”. Andy Konwinski, informatician și co-fondator al Databricks, Perplexity și Laude Institute, spune că nu a vorbit niciodată cu cineva care să înțeleagă procesul, nici măcar angajați ai laboratoarelor de frontieră. „Este o problemă existențială”, spune el pentru TechCrunch. „Siguranță sau nu, este vorba despre cine are puterea de a lua decizii – cine controlează accesul și decide permisiunile?”
La optsprezece luni de la administrația Trump, există încă puțină claritate despre cum să se procedeze, în ciuda – sau, după cum susțin unii critici, din cauza – figurilor din industrie care stabilesc politicile. Luna trecută, după săptămâni de conflicte interne, a fost publicat un ordin executiv care stabilea o foaie de parcurs pentru evaluarea modelelor de frontieră, dar detaliile specifice nu au fost încă completate, în afară de ceea ce nu va exista. „Nu va exista un FDA pentru AI”, a declarat Sriram Krishnan, fost partener la Andreesen Horowitz care a servit ca consilier senior pentru AI la Casa Albă până luna trecută, pentru Financial Times.
Notabil, încă nu există un acord asupra tipurilor de modele care necesită supraveghere guvernamentală sau asupra agenției sau agențiilor care ar trebui să efectueze aceste evaluări. Deocamdată, Centrul pentru Standarde și Inovare AI din cadrul Departamentului de Comerț pare să preia conducerea, dar ordinul executiv instruiește șase agenții guvernamentale să stabilească un proces final până la începutul lunii august.
Ceea ce a apărut între timp este, în cel mai bun caz, ad hoc. CEO-ul OpenAI, Sam Altman, a declarat pe CNBC că procesul a implicat discuții cu oficiali precum secretarul Comerțului Howard Lutnick, secretarul Trezoreriei Scott Bessent și directorul național de securitate cibernetică Sean Cairncross, dar nu este clar cine au fost experții care au testat modelele sau cum au făcut acest lucru. OpenAI a refuzat să împărtășească detalii despre procesul guvernamental cu TechCrunch, dar a indicat rezultatele mai multor evaluări externe efectuate de organizații precum UK AISI, SecureBio și Irregular în fișa de siguranță a celui mai recent model.
La fel ca în cazul lansării lui Fable de la Anthropic, OpenAI a oferit o previzualizare a modelului guvernului și utilizatorilor selectați înainte de lansarea largă, dar nu știm cine au fost toți acești utilizatori sau cum au fost aleși. Într-o postare pe blog de la sfârșitul lunii iunie, compania a spus că „nu credem că acest tip de proces de acces guvernamental ar trebui să devină implicitul pe termen lung”, afirmând că va lucra cu guvernul pentru a dezvolta o altă cale de urmat.
Contextul acestor discuții, însă, include faptul că Altman ar fi oferit până la 5% din capitalul OpenAI pentru așa-numitele „conturi Trump” ale administrației, iar președintele OpenAI, Greg Brockman, este cel mai mare donator cunoscut public pentru operațiunea politică de mijloc de mandat a lui Trump. Este dificil pentru observatorii externi să separe aceste activități de abordarea aparent mai ușoară a guvernului în reglementarea lui Sol. Pe de altă parte, Fable de la Anthropic a fost retras temporar de la accesul larg când...
De ce este important:
Această lipsă de transparență în procesul de aprobare a modelelor de inteligență artificială de frontieră ridică întrebări serioase despre siguranța publică și influența politică. Fără criterii clare și fără o agenție de reglementare dedicată, deciziile privind lansarea unor tehnologii potențial periculoase rămân în mâinile unor oficiali și companii cu interese personale. Este esențial ca cetățenii să înțeleagă cum se iau aceste decizii și să ceară mai multă responsabilitate, pentru a preveni ca AI-ul să devină un instrument al puterii netransparente.
