Subiect: #Inference
AI
Inteligența Artificială Publică devine furnizor de inferență pe Hugging Face: O nouă eră pentru modelele suverane și accesibile
Hugging Face anunță integrarea Public AI ca furnizor de inferență, oferind acces gratuit și simplificat la modele suverane de la instituții precum Swiss AI Initiative și AI Singapore, prin interfața web și SDK-uri dedicate pentru dezvoltatori.
AI
Mixture of Experts (MoE) în Transformers: O Revoluție în Arhitectura Modelelor de Limbaj
Modelele Mixture of Experts (MoE) revoluționează AI-ul prin decuplarea capacității de învățare de costul computațional. Acest articol explorează integrarea lor în Transformers, de la refactorizarea încărcării greutăților și materializarea leneșă a tensorilor, până la backend-uri optimizate și paralelismul experților.