Liquid AI a lansat modelele draft LFM2.5-DSpark, care accelerează decodarea de până la 3,18 ori fără a modifica rezultatele. Această inovație promite inferență mai rapidă, costuri reduse și o experiență îmbunătățită pentru utilizatorii de aplicații AI.
Liquid AI a lansat LFM2.5-VL-3B, un model open-source de 3 miliarde de parametri care combină viziunea computerizată cu procesarea limbajului natural. Acesta poate citi ecrane, identifica obiecte și apela instrumente direct pe dispozitiv, fără a necesita cloud. Articolul explică capacitățile, aplicațiile practice și impactul acestei tehnologii asupra viitorului AI.
MacPaw colaborează cu Liquid AI pentru a aduce inferența AI pe dispozitive, oferind dezvoltatorilor din SetApp unelte locale și un sistem de prețuri bazat pe credite. Parteneriatul promite confidențialitate, viteză și personalizare.
Liquid AI a lansat două noi encodere bidirecționale, LFM2.5-Encoder-230M și LFM2.5-Encoder-350M, care oferă performanțe rapide pe CPU chiar și la un context de 8.000 de tokeni. Aceste modele open-source sunt ideale pentru aplicații de înțelegere a textului, agenți AI și edge computing.
Liquid AI a lansat Antidoom, o metodă open-source care reduce drastic buclele de doom în modelele de raționament, folosind Final Token Preference Optimization (FTPO) pentru a reantrena doar tokenul care declanșează bucla. Rezultatele arată scăderi de la 22,9% la 1% pe anumite modele.
Liquid AI lansează modelul LFM2.5-230M cu suport pentru cinci framework-uri de inferență (llama.cpp, MLX, vLLM, SGLang, ONNX), permițând rularea AI-ului direct pe dispozitive locale, fără cloud. Un pas important spre democratizarea inteligenței artificiale.
Liquid AI a lansat două modele open source pentru căutare multilingvă: LFM2.5-Embedding-350M (bi-encoder) și LFM2.5-ColBERT-350M (interacțiune târzie). Ambele suportă 11 limbi și oferă performanțe ridicate pentru regăsirea informațiilor, fiind accesibile dezvoltatorilor.
Liquid AI a lansat LFM2.5-8B-A1B, un model MoE cu 8,3 miliarde de parametri totali și doar 1,5 miliarde activi, optimizat pentru rulare pe dispozitive. Articolul explică arhitectura, beneficiile pentru edge computing și impactul asupra confidențialității și performanței.
Liquid AI a lansat LFM2.5-VL-450M, un model vision-language compact de 450M parametri cu predicție bounding box, suport multilingv și inferență sub 250ms pe hardware edge precum NVIDIA Jetson Orin.
Acest site folosește cookie-uri pentru a-ți oferi o experiență de navigare cât mai plăcută. Continuarea navigării implică acceptarea acestora.