„Credem că puterea de calcul distribuită, poziționată mai aproape de utilizatorii finali pentru o inferență mai rapidă, este ceea ce va câștiga pe termen lung”, a spus el, menționând compania sa ca exemplu. Pe lângă un preț mai mic, Radulescu a subliniat că sistemul Runware poate scala și adăuga capacitate rapid, poate fi implementat oriunde există energie electrică și se poate adapta rapid la noile lansări hardware. Podurile Runware nu folosesc apă, ci un sistem de răcire în circuit închis, care poate fi construit în câteva zile, comparativ cu lunile sau chiar anii necesari pentru construirea centrelor de date tradiționale.
„Cererea de inferență crește mai repede decât pot fi construite facilitățile”, a spus Radulescu. „Ceea ce vrem noi este să alimentăm inteligența lumii, să fim coloana vertebrală pe care rulează fiecare model AI, cu o capacitate care ține pasul cu cererea, în loc să o limiteze.”
Runware are în prezent 10 poduri în implementare în SUA, Europa și Asia-Pacific, a spus Radulescu. Compania oferă deja inferență unor companii, inclusiv Higgsfield AI și Wix, și are 160 de site-uri disponibile pentru a-și alimenta podurile chiar acum. Runware a anunțat o rundă de finanțare Seria A de 50 de milioane de dolari în decembrie, pentru a oferi infrastructura necesară companiilor pentru a genera imagini. Ei văd extinderea în poduri ca parte a misiunii de bază a companiei: furnizarea de inferență companiilor, mai degrabă decât un singur produs.
Laboratoarele AI precum OpenAI și SpaceX încă se întrec în a construi centre de date în toată SUA. OpenAI, de exemplu, este aproape de a încheia o afacere de 500 de miliarde de dolari care ar însemna construirea unui centru de date în Ohio, potrivit rapoartelor. Dar Radulescu nu vede aceste proiecte ca pe o amenințare pentru Sonic Inference Pods, descriind flexibilitatea podurilor ca pe un factor cheie de diferențiere.
„Fiecare pod rulează ca parte a unei singure rețele, astfel încât cererile merg oriunde există capacitate, mai aproape de utilizatori, iar dacă un pod cade offline, traficul se mută pe altul”, a spus el, adăugând că o defecțiune a sistemului înseamnă că un singur pod este oprit, nu o întreagă facilitate fixă. „Clienții care doresc hardware dedicat primesc poduri întregi pentru ei.”
Nu este prea îngrijorat nici de faptul că alte companii construiesc acest lucru pentru ele însele, spunând pur și simplu că hardware-ul este lent și că găsirea talentului pentru a construi și repara această tehnologie este limitată.
„O greșeală în proiectarea unei plăci de circuit costă luni între reproiectare, simulare, fabricație, testare și livrare”, a spus el. „Fiecare dintre aceste apeluri are nevoie de cineva care înțelege exact ce face fiecare componentă și ce se strică dacă lipsește.”
Construirea centrelor de date AI este un subiect controversat, totuși, mai ales din cauza resurselor pe care le consumă. Deja, comunitățile în care sunt situate centrele de date au raportat o creștere a costurilor utilităților. Într-o zi, Runware vede o lume în care poate funcționa pe energie regenerabilă și nu consumă resursele de care comunitățile au nevoie, dar acea zi nu este neapărat astăzi.
Radulescu a spus că utilizarea energiei AI va crește oricum, „determinată de cererea de inferență, nu de cine o furnizează”. Ceea ce interesează Runware acum este modul în care această cerere este satisfăcută, a spus el. „Fără pierderi de transmisie, fără apă în răcire și folosim energie care există deja, în loc să cerem construirea unei noi capacități de rețea. Mai multă inferență construită astfel înseamnă mai puțină rețea nouă, mai puțină apă, pentru aceeași cantitate de calcul.”
De ce este important:
Această inovație marchează o schimbare de paradigmă în infrastructura AI. În timp ce giganții tech investesc miliarde în centre de date gigantice, Runware demonstrează că viitorul poate fi mai agil, mai eficient și mai prietenos cu mediul. Podurile modulare nu doar că reduc costurile și timpul de implementare, dar și minimizează impactul asupra comunităților locale, folosind energie existentă și sisteme de răcire fără apă. Într-o eră în care cererea de inferență AI explodează, soluțiile portabile ar putea fi cheia pentru a menține ritmul făr a supraîncărca rețelele electrice sau resursele naturale. Rămâne de văzut dacă această abordare va deveni noul standard sau va rămâne o nișă, dar cert este că Runware a deschis o discuție importantă despre cum ar trebui să arate infrastructura AI a viitorului.
