Liquid AI a lansat LFM2.5-8B-A1B, un model MoE cu 8,3 miliarde de parametri totali și doar 1,5 miliarde activi, optimizat pentru rulare pe dispozitive. Articolul explică arhitectura, beneficiile pentru edge computing și impactul asupra confidențialității și performanței.
Acest articol detaliază procesul tehnic complex de conversie a modelului OCR Dots.OCR pentru a rula pe dispozitivele Apple, folosind Core ML și Motorul Neural. Autorii descriu strategia de simplificare a modelului, provocările întâmpinate în compatibilitatea dintre PyTorch și Core ML și rezultatele benchmark-urilor inițiale, care evidențiază necesitatea optimizărilor ulterioare.
Acest site folosește cookie-uri pentru a-ți oferi o experiență de navigare cât mai plăcută. Continuarea navigării implică acceptarea acestora.