Cipul Jalapeño de la OpenAI: performanțe remarcabile la inferență, dar concurența nu doarme
OpenAI a prezentat la Hot Chips primele rezultate de benchmark pentru cipul său Jalapeño, care arată o performanță semnificativă la inferență, cu mai multe tokenuri per utilizator și mai mult throughput per kilowatt decât sistemele actuale. Cipul, dezvoltat cu Broadcom, este proiectat pentru a minimiza întârzierile în prefill și comunicare, și va fi implementat în volume mici la sfârșitul lui 2026. Această mișcare strategică ar putea schimba echilibrul de putere în industria AI.
🕒 3 săptămâni în urmă
