Avantajul Nvidia în AI nu se mai rezumă doar la GPU-uri

Până de curând, povestea dominantă despre Nvidia suna cam așa: în primii ani ai boom-ului de inteligență artificială, Nvidia a fost singura sursă de GPU-uri de ultimă generație, iar asta a devenit extrem de profitabil pe măsură ce industria s-a extins. În ultimii ani, însă, giganți precum Amazon și Google au început să-și construiască propriile cipuri, iar Nvidia nu mai este singurul jucător important. Mulți investitori s-au întrebat, pe bună dreptate, cât de durabil este avantajul companiei. E o poveste convingătoare și, în mare parte, adevărată. După ce și-a multiplicat capitalizarea de piață de zece ori între începutul lui 2023 și mijlocul lui 2025, acțiunile Nvidia au avut o traiectorie mai modestă în ultimul an, din cauza temerilor legate de concurența pe segmentul GPU. Dar, după raportul financiar de miercuri, o nouă narațiune a început să prindă contur, iar investitorii încep să realizeze că avantajul Nvidia depășește cu mult GPU-urile.Pe măsură ce puterea de calcul pentru AI crește până la scara gigawaților, orchestrarea acestor sisteme a devenit o sarcină din ce în ce mai complexă. Nu e surprinzător că Nvidia a construit o mare parte din hardware-ul de ultimă oră necesar pentru a gestiona această complexitate, oferind companiei un avantaj uriaș în sistemele care înconjoară GPU-ul, chiar dacă se confruntă cu o concurență tot mai mare pe segmentul GPU-urilor în sine. Deși se vorbește mult despre puterea de calcul ca pe o marfă, operarea unui centru de date la scară megawatt la eficiență maximă rămâne incredibil de dificilă – iar pe măsură ce implementările devin mai mari și mai rapide, provocarea crește.Poți vedea o parte din asta doar uitându-te la detaliile a ceea ce vinde Nvidia. Compania lansează acum arhitectura Vera Rubin, care împerechează GPU-ul Rubin cu o colecție de alte unități, inclusiv CPU-ul Vera, acceleratorul de inferență Groq 3 LPX și rack-uri similare pentru stocare și rețelistică. În ultima săptămână, am vorbit cu oameni de la Nvidia despre ce fac aceste sisteme de fapt, iar rezultatele au fost surprinzătoare. La fel ca GPU-ul Rubin, sunt sisteme extrem de specializate, dar, în loc să proceseze tokeni, ele se asigură că tot ce se află în afara GPU-ului funcționează cât mai eficient. Dacă GPU-ul este motorul, acestea sunt restul mașinii.CPU-ul Vera, în special, se concentrează pe problema orchestrarea datelor. „Vera este important pentru că există doar o anumită cantitate de memorie pe care o poți pune într-un singur server sau pe orice platformă de calcul”, mi-a spus Jason Hardy, vicepreședintele Nvidia pentru tehnologia de stocare. Pe măsură ce centrele de date și-au extins puterea de calcul, capacitatea de memorie a crescut și ea, motiv pentru care companii precum Micron s-au îmbogățit în al doilea val al boom-ului infrastructurii. Dar aducerea acestor date la GPU la momentul potrivit nu este deloc simplă – iar pe măsură ce companiile încearcă să reducă tot mai mult tokenii pe watt, își dau seama cât de importantă este dirijarea traficului de date.„Am observat îmbunătățiri de până la 3x în aceste operațiuni, unde CPU-ul Vera permite accelerarea”, a spus Hardy. „Acum putem folosi memoria flash la potențialul maxim, pentru că obținem toată performanța fără blocaje.” Poți vedea versiuni ale aceleiași probleme și în afara Nvidia. Când OpenAI și-a dezvoltat cipul Jalapeño, un obiectiv major a fost evitarea acestor provocări prin minimizarea cantității de date care trebuie mutate. „Am proiectat Jalapeño pentru a minimiza mișcarea datelor și întârzierile de comunicare”, a spus compania într-o postare pe blog la începutul acestei luni. „Domeniul său larg permite ca întreaga sarcină de lucru să rămână într-un singur sistem conectat, minimizând mișcarea datelor și ajutând ca solicitarea completă să rămână rapidă și eficientă de la început până la sfârșit.” Este o abordare diferită, care evită complet mișcarea datelor prin efectuarea sarcinii într-un singur cip integrat. Dar logica generală este aceeași: creșterea eficienței printr-un control mai inteligent al traficului, nu doar prin mai multe cicluri de procesare.Aceasta deschide un nou strat de infrastructură pentru care companiile pot concura. Noul accent pe orchestrarea datelor nu este automat o victorie pentru Nvidia. Compania va trebui să concureze cu producători rivali de cipuri și cu giganții hyperscaler, la fel cum a făcut cu GPU-urile. Dar competiția s-a mutat la un nou nivel, unde construirea unui GPU rival contează mai puțin decât capacitatea de a face întregul sistem să funcționeze eficient. Pe măsură ce AI-ul devine din ce în ce mai integrat în fiecare aspect al afacerilor, abilitatea de a orchestra datele devine la fel de importantă ca și puterea brută de calcul. Iar Nvidia, cu arhitectura Vera Rubin și cu accentul pus pe sisteme complete, pare să fie bine poziționată pentru a domina și acest nou teren.### De ce este important:Această schimbare de paradigmă are implicații uriașe pentru întreaga industrie tech. Investitorii care s-au concentrat exclusiv pe competiția pe segmentul GPU-urilor ar putea rata tabloul complet. Dacă avantajul Nvidia se extinde la orchestrarea datelor și la eficiența sistemelor, atunci concurenții care se bazează doar pe cipuri mai rapide ar putea rămâne în urmă. Mai mult, accentul pe reducerea mișcării datelor și pe eficiența energetică devine crucial pe măsură ce centrele de date consumă tot mai multă energie. Înțelegerea acestor dinamici este esențială pentru oricine urmărește evoluția AI-ului, de la investitori la ingineri și strategi de afaceri. Pe scurt, viitorul AI-ului nu se scrie doar în siliciu, ci și în modul în care acel siliciu este orchestrat.