Buoyant lansează Kinference: Planul de control al inferenței open-source pentru Kubernetes și vLLM
Buoyant, creatorii Linkerd, lansează Kinference: un control plane open-source pentru inferență LLM pe Kubernetes și vLLM. Aduce KV-cache aware routing, mTLS, GitOps și observabilitate nativă, transformând servirea modelelor generative într-o operațiune de producție matură și sigură.
🕒 14 ore în urmă
