Parteneriatul a fost anunțat oficial în octombrie, dar planurile OpenAI privind cipurile personalizate au fost mult timp subiect de zvonuri, fiind văzute ca o modalitate de a reduce dependența companiei de GPU-urile Nvidia. Atât Google, cât și Amazon au construit cipuri personalizate în același scop, numite adesea „acceleratoare AI” – siliciu proiectat special pentru a accelera sarcinile de învățare automată.
Președintele OpenAI, Greg Brockman, a explicat abordarea companiei în dezvoltarea cipurilor într-un podcast intern, la scurt timp după anunțarea parteneriatului cu Broadcom. „Avem o înțelegere profundă a sarcinii de lucru”, a spus Brockman în episod. „Am căutat cu adevărat sarcini specifice care sunt insuficient deservite, [întrebându-ne] cum putem construi ceva care să accelereze ceea ce este posibil?”
Jalapeño este proiectat special pentru inferență, procesul de rulare a modelelor AI pre-antrenate ca răspuns la comenzile utilizatorilor. În anunț, OpenAI a subliniat costul redus de operare al cipului atunci când rulează modele de codare în timp real. Este probabil ca sarcinile mai intensive, cum ar fi pre-antrenarea, să rămână dependente de hardware-ul Nvidia, dar chiar și reduceri mici ale costurilor de inferență ar putea îmbunătăți semnificativ profitabilitatea companiei.
Optimizarea sistemului de inferență se poate dovedi un factor crucial în economia AI pe termen lung – și este probabil să aibă loc la fiecare nivel al stivei tehnologice. OpenAI construiește deja produse agentice precum Codex și modelele care le alimentează, precum și centrele de date pentru a rula acele modele. Trecerea la cipuri specializate permite companiei să meargă și mai departe în acest proces, așa cum a explicat compania în anunț.
„OpenAI nu dezvoltă doar modele de frontieră sau construiește produse pe baza lor; proiectează infrastructura din spatele lor: arhitectura cipurilor, kernel-uri, sisteme de memorie, rețele, planificare, sisteme de implementare și experiența produsului”, a scris compania. „Deoarece OpenAI operează pe întreaga stivă, fiecare strat poate fi optimizat în jurul aceluiași obiectiv: să facă modelele mai rapide, mai fiabile și mai accesibile pentru utilizatori.”
Această mișcare strategică nu este doar despre reducerea costurilor, ci și despre control. În timp ce Nvidia domină piața GPU-urilor pentru antrenament AI, inferența reprezintă o parte tot mai mare din costurile operaționale ale companiilor de AI. Prin construirea propriului cip, OpenAI își asigură o independență tehnologică și poate adapta hardware-ul exact la nevoile modelelor sale. Este un pas similar cu ceea ce au făcut Google (cu TPU-urile sale) și Amazon (cu Trainium și Inferentia), dar cu o particularitate: OpenAI este în primul rând un dezvoltator de modele, nu un furnizor de cloud.
Impactul asupra industriei ar putea fi semnificativ. Dacă Jalapeño se dovedește a fi la fel de eficient pe cât pretinde OpenAI, ar putea forța Nvidia să își reconsidere strategia pentru piața de inferență. De asemenea, ar putea accelera tendința ca marile companii de AI să își proiecteze propriile cipuri, ceea ce ar fragmenta piața și ar crea noi oportunități pentru producători precum Broadcom.
Pe de altă parte, rămân întrebări legate de scalabilitate și de performanța reală în medii de producție. Testele timpurii sunt promițătoare, dar drumul de la prototip la implementare la scară largă este lung. OpenAI va trebui să demonstreze că Jalapeño poate gestiona volumele masive de cereri de inferență pe care le are platforma sa, fără a compromite latența sau acuratețea.
În plus, parteneriatul cu Broadcom sugerează că OpenAI nu intenționează să devină un producător de cipuri, ci mai degrabă să colaboreze cu experți în fabricație pentru a-și atinge obiectivele. Broadcom este cunoscut pentru design-urile sale personalizate pentru clienți mari, iar această colaborare ar putea fi doar începutul unei serii de cipuri specializate.
De ce este important:
Lansarea cipului Jalapeño marchează un moment de cotitură în strategia OpenAI, trecând de la simpla utilizare a hardware-ului existent la proiectarea propriului siliciu. Aceasta nu doar că reduce dependența de Nvidia, dar oferă și un avantaj competitiv prin optimizarea costurilor de inferență – un factor cheie în viabilitatea economică a AI generativ. Dacă va reuși, ar putea redefini echilibrul de putere în industria cipurilor AI și ar putea încuraja și alte companii să urmeze aceeași cale.
