Subiect: #Inferență
Fal, startup-ul de inferență AI, dublează valoarea la 16 miliarde dolari în mijlocul cursei la armamente generative
Startup-ul Fal dublează valoarea la 16 miliarde dolari după o rundă Series F de 1,3 miliarde condusă de Bessemer cu Nvidia, semnificând maturizarea pieței de inferență AI pentru modele open-source. Cu 800M ARR și competiție feroasă de la Baseten, Fireworks și Modal, Fal pariază pe optimizarea software a compute-ului pentru a supraviețui marginilor subțiri.
Tenstorrent atinge o evaluare de 6,2 miliarde dolari: Jim Keller pariază pe independență și chipuri open-source pentru inferență
Tenstorrent, startup-ul condus de legendarul inginer Jim Keller, a ridicat 1,5 miliarde $ la o evaluare de 6,2 miliarde $, refuzând oferte de achiziție de la Intel și Qualcomm. Capitalul va finança chipuri RISC-V open-source pentru inferență AI și generare video, pariazând pe o alternativă la monopolul Nvidia/CUDA.
NVIDIA lansează DGX Spark 64GB: un monstru de 1 PetaFLOP pe birou, pentru agenți AI locali și fine-tuning
NVIDIA a anunțat DGX Spark 64GB, o stație de lucru compactă bazată pe arhitectura Grace Blackwell, care livrează 1 PetaFLOP de putere AI direct pe birou. Dispozitivul este gândit pentru agenți AI locali, fine-tuning pe date private și inferență fără dependență de cloud, promițând să democratizeze accesul la AI de înaltă performanță.
Cum se construiesc fluxuri de lucru de machine learning pe GPU: ghid practic cu NVIDIA cuML, RAPIDS și inferență accelerată
NVIDIA RAPIDS și cuML mută machine learning-ul clasic direct pe GPU, cu accelerări de până la 100x. De la clustering cu DBSCAN și K-Means, la benchmarking corect, explainability cu SHAP și inferență cu Forest Inference Library, iată cum arată un flux de lucru modern de data science pe plăci video.
Cipul Jalapeño de la OpenAI: performanțe remarcabile la inferență, dar concurența nu doarme
OpenAI a prezentat la Hot Chips primele rezultate de benchmark pentru cipul său Jalapeño, care arată o performanță semnificativă la inferență, cu mai multe tokenuri per utilizator și mai mult throughput per kilowatt decât sistemele actuale. Cipul, dezvoltat cu Broadcom, este proiectat pentru a minimiza întârzierile în prefill și comunicare, și va fi implementat în volume mici la sfârșitul lui 2026. Această mișcare strategică ar putea schimba echilibrul de putere în industria AI.
Etched își dublează evaluarea la 21 de miliarde de dolari într-o singură lună: ce se află în spatele celei mai rapide creșteri din AI
Etched, startup-ul care construiește hardware specializat pentru inferența AI, și-a dublat evaluarea la 21 de miliarde de dolari într-o lună, după o rundă de 700 de milioane condusă de Jane Street. Tehnologia sa inovatoare, care separă fazele de prefill și decode, promite viteze mai mari și costuri mai mici, atrăgând investitori de top și provocând dominația Nvidia.
Viitorul centrelor de date este portabil? Runware construiește un pod pentru a afla
Runware lansează Sonic Inference Pod, un centru de date modular și transportabil, care promite inferență AI mai rapidă, mai ieftină și mai ecologică, fără a consuma apă și folosind energia existentă.
Fostul șef AI de la Databricks crede că poate reduce factura de energie a AI-ului de 1.000 de ori
Naveen Rao, fostul șef AI de la Databricks, lansează Unconventional AI, o companie care promite să reducă consumul de energie al inferenței AI de 1.000 de ori, folosind o arhitectură bazată pe oscilatori. Primul model, Un0, demonstrează fezabilitatea tehnologiei.
OpenAI își lansează primul cip personalizat, construit împreună cu Broadcom
OpenAI a dezvăluit primul său cip personalizat, Jalapeño, construit cu Broadcom, special pentru inferență. Cipul promite o eficiență energetică superioară și reduce dependența de Nvidia, marcând o schimbare strategică majoră în infrastructura AI.
Startupul de inferență AI Baseten ar urma să strângă 1,5 miliarde de dolari, la doar câteva luni după runda uriașă anterioară
Startupul de inferență AI Baseten este pe cale să strângă 1,5 miliarde de dolari la o evaluare de 13 miliarde, la doar cinci luni după o rundă de 300 de milioane. Runda are prețuri diferențiate, iar investitorii includ Spark Capital, Sands Capital, Altimeter Capital și Wellington Management.
După „neachiziția” de 20 de miliarde de dolari de la Nvidia, startup-ul de cipuri AI Groq strânge 650 de milioane de dolari
Startup-ul Groq, cunoscut pentru cipurile sale AI specializate în inferență, strânge 650 de milioane de dolari de la investitori existenți, la scurt timp după un acord spectaculos cu Nvidia, evaluat la 20 de miliarde de dolari. Fondurile vor fi folosite pentru extinderea cloud-ului de inferență, un domeniu tot mai important în inteligența artificială.
După mega-afacerea de 20 de miliarde de dolari cu Nvidia, startup-ul de cipuri AI Groq strânge 650 de milioane de dolari
Startup-ul Groq, cunoscut pentru cipurile sale AI specializate în inferență, se pregătește să atragă 650 de milioane de dolari de la investitorii existenți, la doar câteva luni după un acord de 20 de miliarde de dolari cu Nvidia. Fondurile vor fi folosite pentru extinderea cloud-ului de inferență, o piață în plină expansiune, unde Groq vrea să concureze direct cu gigantul Nvidia.