Anunțul a venit joi, prin intermediul unui articol pe blogul companiei, și nu putea fi mai bine sincronizat cu realitatea tensionată din jurul AI-ului. Începând cu sfârșitul lunii august, practic în fiecare săptămână sau două săptămâni au apărut incidente în care agenți de inteligență artificială au acționat în afara instrucțiunilor primite. Fenomenul a inflamat dezbaterea publică și a făcut ca apelurile pentru controale independente să devină tot mai insistente. În acest context, gestul Anthropic nu e doar o decizie de PR, ci o asumare a unei transparențe pe care puțini din industrie au curajul să o practice.
„Vrem să fim responsabili în fața publicului pentru deciziile pe care le luăm", a transmis compania. „Ne dorim să eliminăm diferența dintre ceea ce înțeleg evaluatorii externi despre sistemele unei companii de AI de frontieră și ceea ce înțelege compania însăși." Cu alte cuvinte, Anthropic recunoaște, indirect, că nici măcar propriii ingineri nu au întotdeauna imaginea completă a ceea ce se întâmplă în propriile modele. Iar dacă ei recunosc asta, publicul are tot dreptul să fie sceptic.
Detaliile aranjamentului sunt impresionante prin nivelul de deschidere. Cercetătorii METR nu primesc doar acces la niște rapoarte filtrate sau la versiuni sanitizate ale documentelor interne. Au laptopuri furnizate chiar de Anthropic, au spații de birou în sediile companiei și pot folosi uneltele interne la un nivel comparabil cu cel al echipelor proprii de evaluare a riscurilor. Mai mult, angajaților Anthropic li s-a transmis clar că trebuie să împărtășească informații cu echipa METR la fel cum ar face-o cu un coleg care lucrează pe probleme de aliniere AI.
Comparabilă, spun cei de la Anthropic, cu logica din sistemul bancar, unde regulatorii plasează examinatori rezidenți direct în interiorul celor mai mari bănci. Nu e o metaforă întâmplătoare. E o recunoaștere tacită faptul că AI-ul a devenit o infrastructură critică, la fel ca finanțele, și că are nevoie de un nivel similar de supraveghere.
Poate cel mai important aspect al înțelegerii este legat de publicare. METR va publica propriile evaluări ale riscurilor, incidentelor și practicilor Anthropic, iar compania a renunțat în mod explicit la dreptul de a bloca aceste publicații. Sigur, există unele excepții: Anthropic poate cere redactarea informațiilor care se încadrează în categorii restrânse și clar definite, cum ar fi datele clienților, informațiile acoperite de confidențialitatea avocat-client sau detaliile despre arhitectura modelelor. Dar METR are dreptul să caracterizeze public aceste redacții și să spună dacă le consideră justificate, atâta timp cât nu dezvăluie informațiile ascunse. Este un echilibru delicat între transparență și protecția secretelor comerciale, dar balanța pare să încline mai degrabă spre deschidere decât spre opacitate.
Sistemul pe care Anthropic îl construiește este structurat pe trei niveluri. METR se află în vârf, cu acces deplin la nivel de angajat. La baza piramidei se află evaluatori precum SecureBio, un nonprofit axat pe biosecuritate, care realizează revizuiri restrânse și au nevoie de aprobarea Anthropic pentru a publica. Nivelul intermediar oferă mai multe informații și permite publicarea fără aprobare prealabilă. E un model gândit cu grijă, care permite o varietate de intensități ale controlului extern.
Anunțul de joi nu a venit din senin. Este materializarea unei promisiuni pe care directorul general al Anthropic, Dario Amodei, a făcut-o într-un eseu publicat în septembrie. Acolo, Amodei propunea ca evaluatorii externi să fie integrați direct în laboratoarele de AI ca un prim pas pentru încetinirea dezvoltării tehnologiei. OpenAI a promis rapid că va face același lucru, iar între timp, atât Anthropic cât și OpenAI, alături de Google, Meta, Nvidia și xAI, au semnat un acord la Casa Albă prin care se angajează la evaluări independente.
Rămâne de văzut dacă această abordare va deveni standard în industrie sau va rămâne un experiment izolat al celor care își permit, din punct de vedere reputațional, să riște. Cert este că METR primește acum un nivel de acces pe care mulți jurnaliști și cercetători din afaceri publice nu l-ar fi putut obține nici cu ani de insistențe. Rămâne de văzut și ce vor găsi. Vorbește de la sine faptul că o companie evaluată la zeci de miliarde de dolari acceptă ca niște cercetători independenți să stea cu ochii pe fiecare decizie majoră. Într-o industrie obsedată de secretul competitiv, e aproape o revoluție.
De ce este important:
Acest demers al Anthropic marchează o premieră în industria AI, unde companiile funcționează de obicei ca niște cutii negre. Prin acordarea accesului la nivel de angajat pentru cercetători independenți, cu drept de publicare fără veto, se creează un precedent care poate forța și alți actori din piață (OpenAI, Google, Meta) să accepte un nivel similar de supraveghere. Pe fondul incidentelor tot mai frecvente cu agenți AI care acționează în afara instrucțiunilor, această transparență nu mai este un lux, ci o necesitate. Pentru utilizatori, reglementatori și societate în general, e un pas care ar putea redefini relația dintre puterea tehnologică și responsabilitatea publică.
