Distilarea, în termeni simpli, presupune ca un model de AI să fie interogat intens de un alt model, pentru a-i învăța modul de raționare și cunoștințele. Este o practică legitimă, folosită pe scară largă în industrie. Însă, recent, Anthropic a publicat un raport în care acuză laboratoarele chineze de „atacuri ilicite de distilare”, ascunzându-și identitatea și folosind credențiale furate pentru a extrage cunoștințe fără permisiune. Dario Amodei, CEO-ul Anthropic, a cerut public autorităților de reglementare să intervină. Dar Garry Tan nu este de acord.
Într-un interviu acordat CNBC, Tan a declarat că, în loc să pedepsească distilarea, ar lăsa lucrurile să curgă natural. „Eu nu aș face nimic”, a spus el. „Am putea argumenta că ar trebui să existe un regim american de distilare.” El a explicat pentru TechCrunch că asta înseamnă că laboratoarele americane open-weight, mai mici, ar trebui să aibă voie să folosească aceleași tehnici de antrenare pe modelele de frontieră americane, pentru a crea o gamă mai robustă de opțiuni open-weight care să nu fie controlate de China.
Poziția lui Tan este dublă. În primul rând, el consideră că este o depășire a limitelor ca laboratoarele de AI să dicteze ce pot face clienții cu informațiile pe care modelele lor le împărtășesc. În al doilea rând, el subliniază că laboratoarele proprietare nu au cerut permisiunea când au absorbit cât mai mult din cunoștințele umane pentru a-și antrena modelele. Este un fapt bine cunoscut că au ingerat o cantitate imensă de material protejat de drepturi de autor, fără acordul deținătorilor. „Controlarea a ceea ce fac utilizatorii și clienții cu apelurile API către modelele cu greutate închisă pare constrângătoare, iar guvernul ar putea juca un rol aici pentru a normaliza faptul că accesul la inteligența antrenată pe date publice largi ar trebui să fie mai mult un bun public decât ceva blocat în spatele unor termeni de serviciu restrictivi”, a spus el.
Tan, care se descrie ca fiind un utilizator avid de AI, chiar cu „psihoză cibernetică”, vede un echilibru necesar între laboratoarele open-weight și cele de frontieră. „Ele sunt la frontieră și o împing înainte. Vrem ca asta să fie finanțabil și să fie un model de afaceri excelent pe termen lung”, a declarat el pentru CNBC. „Vrei modele open-weight pentru a oferi oamenilor libertate și acces.” Pentru el, adevăratul scenariu apocaliptic al AI este ca toată puterea imensă a inteligenței artificiale de frontieră să ajungă în mâinile unui singur furnizor proprietar. „Scenariul de coșmar, scenariul doomer pentru AI este că există o singură companie”, a spus el. „Are cel mai bun acces la capital. Are cei mai buni cercetători AI. Fuge cu totul și dintr-o dată există o singură companie monolitică. Și asta ar fi rău.”
Această poziție vine într-un moment tensionat, în care Statele Unite și China se întrec în dezvoltarea AI, iar reglementările devin un subiect fierbinte. În timp ce unii lideri din industrie cer măsuri stricte împotriva distilării neautorizate, Tan pledează pentru o abordare mai deschisă, care să permită inovația și să prevină monopolizarea. El nu susține folosirea de credențiale furate, ci accesul liber, prin ușa din față. Este o nuanță importantă: nu vrea ca laboratoarele americane să încalce legea, ci ca legea să fie adaptată astfel încât distilarea să fie permisă în mod explicit.
De asemenea, Tan atinge o problemă mai profundă: natura datelor și a cunoașterii. Dacă modelele de frontieră au fost antrenate pe date publice, atunci cunoștințele lor ar trebui să fie considerate un bun comun, nu o proprietate privată. Această viziune contrastează puternic cu cea a companiilor precum OpenAI sau Anthropic, care își protejează modelele ca pe secrete comerciale. Dar Tan argumentează că, dacă accesul la informație este restricționat, se creează un dezechilibru de putere care poate duce la concentrarea excesivă a controlului.
În contextul mai larg, această dezbatere reflectă o întrebare fundamentală: cine ar trebui să beneficieze de progresele AI? Doar câteva corporații gigantice sau întreaga societate? Tan pare să pledeze pentru cea din urmă, dar cu o notă pragmatică: vrea ca SUA să rămână competitive, iar asta înseamnă să nu lase China să aibă monopolul asupra modelelor open-weight. Prin urmare, el propune un „regim american de distilare” care să permită laboratoarelor locale să construiască pe baza muncii celor de frontieră, fără a fi nevoie să fure sau să se ascundă.
Criticii ar putea spune că această abordare subminează eforturile de protejare a proprietății intelectuale și ar putea descuraja investițiile în cercetare. Dar Tan răspunde că laboratoarele de frontieră au deja un avantaj competitiv imens, iar distilarea nu le va lua acest avantaj, ci doar va democratiza accesul. În plus, el subliniază că open-weight nu înseamnă neapărat gratuit sau fără restricții, ci mai degrabă transparență și posibilitatea de a fi inspectat și îmbunătățit de comunitate.
În final, poziția lui Garry Tan este una curajoasă și neconvențională, dar care reflectă o tendință tot mai vizibilă în Silicon Valley: nevoia de a echilibra inovația cu responsabilitatea socială. Într-o lume în care AI devine din ce în ce mai puternică, întrebarea nu este dacă vom avea reglementări, ci cum vor fi ele concepute. Tan sugerează că, în loc să ne temem de distilare, ar trebui să o îmbrățișăm ca pe o unealtă de progres, atâta timp cât este făcută etic și transparent. Rămâne de văzut dacă autoritățile de reglementare îi vor asculta sfatul, dar un lucru este cert: dezbaterea despre cine deține cunoașterea AI este departe de a fi încheiată.
De ce este important:
Această poziție a lui Garry Tan ar putea influența politicile publice privind AI, deoarece Y Combinator este un actor major în ecosistemul startup-urilor. Dacă SUA ar adopta un regim de distilare permisiv, ar putea accelera inovația și ar putea preveni concentrarea puterii în mâinile câtorva companii. În același timp, ar putea tensiona relațiile cu aliații care doresc protecție strictă a proprietății intelectuale. Este o decizie strategică care va modela viitorul AI la nivel global.
