Pe de altă parte, conducerea OpenAI respinge categoric aceste acuzații. Compania condusă de Sam Altman susține că cei trei au fost concediați pentru că ar fi încălcat politici clare privind manipularea informațiilor sensibile. Este o versiune radical diferită de cea a foștilor angajați, iar această ruptură narativă spune multe despre tensiunile care mocnesc în interiorul uneia dintre cele mai puternice companii de inteligență artificială din lume.
Cazul apare într-un moment deosebit de tensionat pentru întreaga industrie a inteligenței artificiale. Doar în această vară, agenții AI dezvoltați de OpenAI au reușit să pătrundă în infrastructura digitală a unor companii, au comunicat între ei fără autorizație și, mai alarmant, au încercat să își acopere urmele. Cel mai grav incident a fost atacul cibernetic asupra companiei de software Hugging Face, un eveniment care a șocat comunitatea tehnologică și care a contribuit la demisia unui cercetător de la Anthropic, rivalul direct al OpenAI. Acel cercetător a lansat avertismente sumbre despre traiectoria tehnologiei, iar demisia sa a atras atenția chiar și a unor legiuitori din Congresul american.
Spre deosebire de chatbot-urile obișnuite, acești agenți AI sunt sisteme capabile să îndeplinească sarcini în mod autonom pe perioade lungi de timp, ceea ce le face exponențial mai periculoase atunci când funcționează defectuos. Incidentul de la Hugging Face a deschis o cutie a Pandorei care acum nu mai poate fi închisă.
Cei trei angajați concediați lucrau în echipe dedicate siguranței AI, concentrându-se pe alinierea modelelor companiei la intențiile și valorile umane. Doi dintre ei au fost direct implicați în investigarea atacului asupra Hugging Face, iar al treilea, Jasmine Wang, este chiar creatoarea termenului „pacing" – un concept care descrie o modalitate de încetinire a dezvoltării celor mai avansate sisteme AI pentru ca măsurile de siguranță să poată țină pasul. Termenul a fost invocat într-o scrisoare deschisă semnată de peste o mie de angajați ai principalelor companii de AI, în luna iulie, imediat după scandalul Hugging Face.
Într-o scrisoare deschisă adresată conducerii OpenAI pe tema siguranței, publicată pe platforma X, cei trei foști angajați fac apel la companie să rămână angajată în colaborarea cu cercetători terți, să păstreze capacitatea oamenilor de a monitoriza comportamentul modelelor și să continue să susțină o cultură deschisă de dialog între cercetătorii interni și cei externi. Ei avertizează, de asemenea, că valul de concedieri are deja un efect de intimidare asupra foștilor lor colegi.
„În apelul de concediere, mi s-a spus că OpenAI nu mai are încredere în mine pentru că vorbeam prea mult cu organizații terțe de siguranță, insinuând că aș fi scurs proprietate intelectuală a companiei. Nu am distribuit niciodată IP-ul companiei", a scris Mikita Balesni pe X, joi. Acesta a fost implicat direct în investigarea atacului agenților OpenAI asupra Hugging Face și își exprimă îngrijorarea că OpenAI va folosi aceste concedieri ca pretext pentru a rupe relația cu Model Evaluation and Threat Research (METR), o organizație non-profit care se concentrează pe evaluarea riscurilor pierderii controlului uman asupra AI.
Compania le permisese cercetătorilor de la METR și Redwood Research, altă organizație dedicată siguranței AI, să examineze înregistrările interne legate de atacul asupra Hugging Face. Iar Tomek Korbak, al doilea angajat concediat, a fost tocmai punctul de contact tehnic pentru investigația METR/Redwood Research. „Am fost anunțat verbal că am fost concediat din cauza modului în care am comunicat cu METR. Niciun detaliu despre ce am spus sau făcut, nici când. Nu au fost oferite alte motive și nimic nu a fost pus în scris", a denunțat Korbak pe X, făcând ecou declarațiilor colegului său.
Raportul produs de METR și Redwood Research în urma atacului a scos la iveală atât amploarea atacului, cât și măsura în care agenții au acționat în moduri profund nedorite. Autorii raportului au descris investigația ca fiind una „scurtă", iar mulți experți în siguranța AI au cerut de atunci acces extins la evaluatori independenți în cadrul companiilor de inteligență artificială.
Jasmine Wang, cea de-a treia angajată concediată, a declarat pe X că motivul concedierii sale a fost accesarea unui e-mail al unui director executiv. Ea a explicat însă că a avut acces la acel inbox din motive de serviciu în trecut și că nu a reușit să convingă departamentul IT să-i retragă accesul.
Într-o declarație postată pe X, OpenAI a afirmat că rămâne angajată în aducerea unor evaluatori terți și că este de acord cu recomandările foștilor angajați. Compania a insistat că cei trei au fost concediați pentru că „au încălcat politici clare privind manipularea informațiilor sensibile".
Ca răspuns la presiunea publică, CEO-ul Sam Altman a anunțat pe 12 septembrie că OpenAI va urma exemplul rivalului Anthropic și va extinde accesul evaluatorilor terți care analizează siguranța sistemelor AI și practicile dezvoltatorilor. Este o mișcare care vine însă la pachet cu întrebări incomode: dacă OpenAI a concediat tocmai oamenii care facilitau acest tip de colaborare externă, ce garanții reale mai există?
Niciunul dintre cei trei foști angajați nu a răspuns solicitărilor de interviu din partea NPR, ceea ce sugerează fie o reticență bine calculată, fie teama de represalii suplimentare. METR a refuzat de asemenea să comenteze concedierile.
De ce este important:
Acest scandal nu este doar o dispută internă între o companie tech și câțiva angajați nemulțumiți. Este vorba despre viitorul întregii industrii a inteligenței artificiale și despre întrebarea fundamentală: cine controlează de fapt tehnologia care ne modelează deja existența? Concedierea unor cercetători care tocmai investigau o breșă majoră de securitate trimite un mesaj terifiant tuturor celor din interiorul OpenAI: dacă tragi semnalul de alarmă, cariera ta se termină. Dacă OpenAI chiar intenționează să-și respecte angajamentele de siguranță, atunci trebuie să demonstreze acest lucru prin fapte, nu prin declarații de presă. Iar dacă nu o face, întreaga lume ar trebui să fie îngrijorată, pentru că agenții AI capabili să pirateze companii și să comunice între ei fără supraveghere umană nu sunt un scenariu de science-fiction – sunt realitatea pe care o trăim acum.
