Subiect: #Rust
AI
Perplexity AI lansează open-source un tokenizer Unigram care reduce latența p50 de 5 ori față de crate-ul Hugging Face
Perplexity AI a lansat open-source un tokenizer Unigram care oferă o latență p50 de cinci ori mai mică decât Hugging Face tokenizers, promițând să accelereze procesarea textului în modelele de limbaj.
AI
Turbovec: Indexul vectorial scris în Rust, cu legături Python și bazat pe algoritmul TurboQuant de la Google
Turbovec este un index vectorial open-source scris în Rust, cu legături Python, care folosește algoritmul TurboQuant de la Google pentru cuantizare eficientă. Oferă performanțe superioare în indexare și căutare, reducând semnificativ memoria necesară, fiind ideal pentru aplicații de căutare semantică, recomandări și RAG.
AI
NVIDIA lansează cuda-oxide: un compilator experimental Rust-to-CUDA care compilează kernel-uri SIMT direct în PTX
NVIDIA a lansat cuda-oxide, un backend experimental de compilare care transformă kernel-uri SIMT scrise în Rust direct în PTX, deschizând calea către programarea GPU-urilor cu siguranța și performanța oferite de Rust.