Finanțarea semnalează o schimbare majoră pe piață: investitorii răspund îngrijorărilor legate de costurile ridicate ale instrumentelor și token-urilor AI prin orientarea către infrastructura care rulează modele open-source la prețuri mult mai mici decât cele ale celor mai noi LLM-uri de la laboratoarele de frontieră. Fondată de CEO-ul Finn Puklowski, General Compute a strâns o rundă seed de 15 milioane de dolari în luna mai pentru a construi un „neocloud” de inferență bazat pe cipuri SambaNova, un producător de cipuri susținut de Intel. Neocloud-urile sunt construite special pentru sarcinile AI, spre deosebire de infrastructura generalistă oferită de hyperscalerii tradiționali precum AWS sau Azure.
Cipurile SN50 ale companiei sunt concepute pentru inferență. Sunt eficiente energetic și nu necesită sisteme costisitoare de răcire cu apă, ceea ce înseamnă că pot fi implementate mai rapid decât GPU-urile într-o varietate mai mare de centre de date. General Compute susține că noile cipuri vor oferi o inferență de 16 ori mai rapidă decât cloud-urile bazate pe GPU-uri. Provocarea este să obții un număr mare de astfel de cipuri, mai ales când ești o companie nou-nouță.
Billy Libby, co-fondator și CEO al Upper90, fost trader cantitativ la Goldman Sachs, avea deja un plan pentru asta. În 2021, firma sa a finanțat achiziții de GPU-uri de către Crusoe, un startup de centre de date axat pe energie, ceea ce el consideră a fi primul împrumut garantat cu valoarea cipurilor avansate. La acea vreme, creditorii tradiționali evitau astfel de tranzacții din cauza riscurilor și incertitudinilor legate de deprecierea GPU-urilor. Dar pe măsură ce CoreWeave a transformat împrumuturile garantate cu cipuri într-un model de afaceri și apoi în baza unui IPO spectaculos, acest tip de finanțare a devenit obișnuit.
„Când am finanțat GPU-uri Nvidia ca primul grup care a făcut asta, piața era ineficientă”, a declarat Libby pentru TechCrunch. „Am putut să construim ceva ca participanți timpurii și să fim compensați pentru risc.” Acum că GPU-urile sunt relativ bine înțelese și poate chiar supra-cumpărate, Upper90 se orientează către companii precum General Compute pentru a prinde următorul val al boom-ului AI. „Credem că modelele open-source vor deveni importante și am căutat anul trecut un jucător în domeniul inferenței”, a spus Libby. „Nu toată lumea are nevoie de un supercomputer, dar toată lumea are nevoie de inferență și AI.”
Această teză a câștigat tot mai multă forță. Companii care oferă acces la modele deschise, precum OpenRouter și Fireworks, au strâns runde noi la evaluări uriașe. Modele noi, cum ar fi K3 de la Kimi, lansat chiar săptămâna aceasta, s-au dovedit a concura cu cele mai recente lansări de la Anthropic și OpenAI pe benchmark-uri de codare. Iar producători de cipuri precum Groq și Cerebras au atras interes atât din partea potențialilor cumpărători, cât și a piețelor publice.
Capacitatea General Compute de a accesa cipuri din afara ecosistemului Nvidia contează din același motiv. TensorWave, o altă companie de infrastructură AI, face un pariu similar pe un parteneriat cu AMD. Pe măsură ce apar mai multe alternative la Nvidia, furnizorii de calcul care nu sunt blocați în acorduri cu Nvidia ar putea avea un avantaj în furnizarea de inferență rentabilă.
„Există o mulțime de cipuri care încep să se scaleze și care au un cost total de proprietate uimitor sau care pot funcționa mult mai rapid decât Nvidia, dar nu prea există cumpărători pentru ele”, a spus Puklowski. „Prin asocierea cu Upper90, nu este doar ‘un startup cool a primit niște bani să cumpere calcul’. Este primul semnal că capitalul se organizează și că dominația monopolistică a Nvidia începe să se fragmenteze.”
Această tranzacție marchează un punct de cotitură. Dacă până acum finanțarea era concentrată pe GPU-uri pentru antrenare, acum investitorii pariază pe inferență – adică pe rularea efectivă a modelelor AI în producție. Și asta pentru că, pe măsură ce modelele open-source devin din ce în ce mai bune, cererea pentru inferență ieftină și rapidă va exploda. Companiile nu mai vor să plătească prețuri exorbitante pentru token-uri de la OpenAI sau Anthropic; vor să ruleze modele proprii sau open-source pe infrastructură dedicată.
General Compute și Upper90 demonstrează că există o cale de a finanța această viziune. Împrumutul de 400 de milioane de dolari nu este doar o sumă mare de bani, ci și un semnal că piețele de capital încep să înțeleagă valoarea cipurilor de inferență ca active colateralizabile. La fel cum GPU-urile au devenit o clasă de active acceptată, acum și cipurile specializate pentru inferență intră în aceeași categorie.
Rămâne de văzut dacă această strategie va funcționa la fel de bine ca cea a GPU-urilor. Dar un lucru este cert: peisajul AI se schimbă rapid, iar cei care investesc acum în infrastructura de inferență ar putea culege roadele într-un viitor nu foarte îndepărtat. Iar pentru Nvidia, aceasta este o provocare serioasă la adresa dominației sale.
De ce este important:
Această tranzacție este importantă deoarece semnalează o maturizare a pieței de infrastructură AI, trecând de la etapa de antrenare costisitoare la cea de inferență accesibilă. Ea ar putea deschide calea pentru o diversificare a ecosistemului de cipuri AI, reducând dependența de Nvidia și permițând companiilor mai mici să concureze. În plus, utilizarea cipurilor de inferență ca garanție pentru împrumuturi ar putea deveni un model de finanțare replicabil, accelerând dezvoltarea de noi soluții AI open-source și reducând costurile pentru utilizatorii finali.
