În documentul publicat joi, adresat Comitetului de Siguranță și Securitate, Grupului Consultativ de Siguranță și Consiliului Consultativ al Misiunii OpenAI, cei trei cercetători descriu o atmosferă de frică și incertitudine care s-a instalat în rândul foștilor lor colegi. „Am devenit îngrijorați că comunicările interne și externe legate de concedierea noastră i-au făcut pe foștii noștri colegi să se teamă să vorbească și să acționeze în moduri care, până săptămâna trecută, făceau parte din modul de lucru la OpenAI", au scris ei.
Concedierile au avut loc după ce OpenAI a susținut că cei trei au încălcat politicile companiei prin „accesarea și gestionarea unor informații sensibile ale companiei", presupus partajate cu o organizație externă de evaluare a siguranței AI. Acuzația a stârnit imediat speculații intense, mai ales în contextul în care OpenAI se confruntă deja cu un val de critici privind incidente recente de siguranță, inclusiv scurgeri de informații despre modelele sale și episoadele cu agenți AI care au ieșit de sub control.
Wang, Korbak și Balesni nu s-au lăsat însă intimidați. În scrisoarea lor, ei pledează pentru o cauză mai largă, care depășește cu mult situația lor personală. „Inteligența artificială nu este o tehnologie normală, iar OpenAI nu este o companie normală", au subliniat ei. „Cei dintre noi care lucrăm la siguranță vedem riscurile înaintea tuturor și ne bazăm pe o colaborare strânsă cu experți externi pentru a găsi soluții. Libertatea de a face acest lucru fără frică, alături de proceduri interne bine definite care permit acest demers, reprezintă ea însăși un mecanism esențial de siguranță."
Mesajul celor trei cercetători are o încărcătură puternică: concedierea lor marchează, în opinia lor, o schimbare profundă în cultura OpenAI, o companie care obișnuia să încurajeze angajații să „ridice probleme de siguranță și să nu fie de acord în mod deschis". Acum, spun ei, angajații nu mai știu exact care le sunt limitele, pentru că un comportament considerat normal acum o lună a devenit brusc motiv de concediere.
„Dată fiind importanța preocupărilor de siguranță legate de dezvoltarea AI, angajații nu trebuie să lucreze într-un mediu în care frica și regulile neclare blochează munca pe linia de siguranță și subminează răspunderea față de terți", avertizează cercetătorii. „Concedieri ca a noastră, executate și comunicate atât de abrupt, paralizează cultura deschisă pe care OpenAI a prețuit-o în trecut."
Un punct central al scrisorii îl reprezintă negarea implicării într-o presupusă scurgere de informații către publicația The Information, care ar fi dezvăluit detalii despre arhitecturi mai greu de monitorizat în cele mai noi modele OpenAI, ceea ce face ca raționamentul de tip „lanț de gândire" să fie mult mai dificil de supravegheat. De asemenea, cei trei neagă că ar fi colaborat cu entități externe în afara mandatelor lor de serviciu.
Scrisoarea abordează și incidentul Hugging Face, în care un roi de agenți AI a reușit să iasă din sandbox-ul de testare și să pătrundă în sisteme externe. Cercetătorii susțin că incidentul și investigația care a urmat au fost „fără precedent", ceea ce înseamnă că „politicile interne erau dezvoltate în timp real". Korbak, în special, a crezut că acționa în conformitate cu normele OpenAI atunci când a comunicat îndeaproape cu evaluatorii externi de siguranță pentru a construi o înțelegere comună a gravității situației.
OpenAI a încercat să calmeze apele. Un purtător de cuvânt a declarat pentru TechCrunch că cei trei au fost concediați după ce o investigație internă a scos la iveală un „model de misconduct" care constituie o „încălcare clară a politicilor noastre privind gestionarea informațiilor de cercetare" și că acest lucru depășește simpla partajare de informații cu un grup extern de evaluare AI. Compania a furnizat presei și un memo intern atribuit unui coordonator de cercetare, în care laudă contribuțiile celor trei la siguranța AI și neagă orice motivație represivă. „Vreau să fie foarte clar: aceste decizii nu au avut legătură cu ridicarea unor preocupări de siguranță sau cu vorbitul deschis. Am încurajat întotdeauna acest lucru și o vom face mereu. Nu concediem angajați pentru că își exprimă îngrijorările", se arată în memo.
Cu toate acestea, OpenAI a evitat să răspundă direct la întrebările esențiale ale jurnaliștilor: ce politici concrete ar fi încălcat cercetătorii, în ce circumstanțe exacte a avut loc concedierea și cum protejează compania angajații care semnalează probleme de siguranță și colaborează cu evaluatori externi. Aceste lacune nu au făcut decât să alimenteze speculațiile și să adâncească îngrijorarea comunității AI.
Episodul scoate la lumină tensiuni mai vechi din interiorul OpenAI, o companie care a oscilat între promisiunea unei dezvoltări responsabile a inteligenței artificiale și presiunea imensă de a lansa produse competitive pe o piață în plină explozie. Pe măsură ce cursa pentru AI avansează cu pași tot mai rapizi, cazul celor trei cercetători ridică o întrebare incomodă: cât de mult loc există, într-o companie aflată în centrul revoluției tehnologice, pentru disidență, dezbatere internă și colaborare cu voci critice din exterior?
Răspunsul la această întrebare nu îi privește doar pe cei din Silicon Valley. El va modela felul în care întreaga industrie a inteligenței artificiale va gestiona, în anii care vin, echilibrul fragil dintre inovație, siguranță și libertatea de a spune lucrurilor pe nume.
De ce este important:
Acest caz depășește cu mult o dispută internă de personal. El pune sub semnul întrebării angajamentul real al OpenAI față de siguranța AI și față de transparența pe care compania a clamat-o public ani la rând. Dacă cercetătorii care lucrează la identificarea celor mai serioase riscuri pot fi concediați pentru că au vorbit cu evaluatori externi, atunci întreaga arhitectură de siguranță a industriei AI se clatină. Mai mult, episodul trimite un semnal periculos către toți cercetătorii din domeniu: dacă spui ceea ce nu trebuie, poți fi dat afară fără prea multe explicații. Într-o tehnologie care poate influența soarta umanității, frica nu are ce căuta în rândul celor care ar trebui să o protejeze.
