Pentru a înțelege pe deplin ce se întâmplă, trebuie să ne uităm mai întâi la acel acord cu Nvidia. Practic, Nvidia a „angajat” o parte din seniorii Groq, inclusiv oameni din top management, și a licențiat tehnologia hardware a startup-ului. În schimb, investitorii Groq au primit o plată în numerar consistentă – atât de consistentă încât, dacă ar fi fost o achiziție completă, ar fi fost cea mai mare din istoria Nvidia. Dar nu a fost o achiziție, ci mai degrabă o „neachiziție” (not-acqui-hire), un termen care a făcut înconjurul presei de specialitate. Pentru Groq, aceasta a fost o gură de oxigen financiară, dar și un semnal că tehnologia lor este suficient de valoroasă pentru a atrage interesul celui mai mare producător de cipuri AI din lume.
Acum, însă, Groq se întoarce la investitori pentru a strânge încă 650 de milioane de dolari. De ce? Pentru că startup-ul vrea să-și dezvolte afacerea de cloud de inferență, un serviciu care le permite dezvoltatorilor și companiilor să ruleze aplicații care necesită inferență AI – adică procesarea care are loc după ce un model AI primește un prompt. Spre deosebire de antrenarea modelelor, care este costisitoare și consumatoare de resurse, inferența este mult mai frecventă și reprezintă o nevoie imediată pe piață. Groq are propriul său cip AI, construit special pentru inferență, și un sistem integrat care promite performanțe ridicate și latență scăzută.
Conducerea interimară a companiei este asigurată de Adam Winter (CEO interimar) și Matt Eng (CFO interimar). Ei sunt cei care au ghidat Groq în această perioadă de tranziție, după plecarea unor figuri cheie către Nvidia. Și, deși poate părea o situație fragilă, investitorii par să aibă încredere în noua direcție. De altfel, Axios notează că runda de 650 de milioane de dolari este aproape garantată: fondurile Disruptive și Infinitium s-au angajat să acopere întreaga sumă dacă ceilalți investitori existenți nu își vor exercita drepturile de pro-rata. Asta înseamnă că, indiferent de ce se întâmplă, Groq va primi banii de care are nevoie pentru a-și extinde cloud-ul de inferență.
Ce înseamnă asta pentru piața AI? În primul rând, confirmă că inferența este noul câmp de luptă. În timp ce antrenarea modelelor mari (precum GPT-4 sau Llama) necesită resurse uriașe și este dominată de câteva companii, inferența este un domeniu mult mai accesibil, dar și mai competitiv. Groq nu este singurul startup care încearcă să ofere soluții hardware pentru inferență – concurenți precum Cerebras, SambaNova sau chiar startup-uri europene încearcă să-și facă loc. Dar Groq are un avantaj: tehnologia sa a fost validată de Nvidia, iar acum are capital proaspăt pentru a-și construi infrastructura.
Pe de altă parte, există și riscuri. Plecarea unor seniori către Nvidia poate slăbi capacitatea de inovare a Groq pe termen lung. De asemenea, piața de cloud de inferență este încă în formare, iar marii jucători (AWS, Google Cloud, Microsoft Azure) își dezvoltă propriile soluții. Cu toate acestea, 650 de milioane de dolari reprezintă o sumă serioasă, care poate finanța atât dezvoltarea tehnologică, cât și extinderea comercială.
Un aspect interesant este modul în care s-a structurat această rundă de finanțare. Faptul că Disruptive și Infinitium sunt dispuse să „garanteze” suma arată un nivel ridicat de încredere în planurile Groq. De asemenea, sugerează că ceilalți investitori ar putea fi mai ezitanți – poate din cauza incertitudinilor legate de conducerea interimară sau de competiția acerbă. Dar, în final, banii vor veni, iar Groq va putea să-și continue misiunea.
Pentru cititorii interesați de evoluția tehnologiei AI, această știre este un semnal că hardware-ul specializat pentru inferență devine o prioritate. Nu mai este suficient să ai cel mai puternic cip pentru antrenare; acum contează și cât de rapid și eficient poți rula modelele în producție. Groq mizează pe o arhitectură numită „tensor streaming processor” (TSP), care promite să reducă latența și să crească debitul. Dacă vor reuși să-și transforme această tehnologie într-un serviciu cloud scalabil, ar putea deveni un jucător important în ecosistemul AI.
În concluzie, Groq se află într-un moment crucial. După ce a „vândut” o parte din creierii companiei către Nvidia, acum încearcă să construiască ceva nou cu banii rămași și cu noii bani proaspeți. Rămâne de văzut dacă interimatul lui Winter și Eng va fi suficient de stabil pentru a duce compania la următorul nivel, sau dacă vor apărea noi schimbări în conducere. Cert este că 650 de milioane de dolari oferă o marjă de manevră considerabilă.
De ce este important:
Această știre este importantă deoarece arată cum piața AI se fragmentează și se specializează. În timp ce Nvidia domină antrenarea modelelor, startup-uri precum Groq încearcă să cucerească segmentul inferenței, care este mult mai mare ca volum. Dacă Groq reușește să-și construiască un cloud de inferență competitiv, ar putea reduce dependența industriei de soluțiile Nvidia și ar putea stimula inovația în domeniul hardware-ului AI. De asemenea, suma de 650 de milioane de dolari arată că investitorii sunt dispuși să parieze pe tehnologii alternative, chiar și după un acord neobișnuit cu gigantul din Santa Clara.
