Subiect: #context lung
Pokee AI lansează Pokee-Isaac 28B: un model agentic cu context de 10 milioane de tokeni, construit pentru a rula în interiorul granițelor clientului
Pokee AI a lansat Pokee-Isaac 28B, un model text-only cu 28 de miliarde de parametri și o fereastră de context de 10 milioane de tokeni, capabil să ruleze în întregime în infrastructura clientului. Cu performanțe remarcabile pe benchmark-uri precum RULER, BFCL v4 și Terminal-Bench 2.1, modelul oferă o alternativă sigură și eficientă pentru companiile care doresc să păstreze controlul asupra datelor lor.
Meituan lansează LongCat-2.0: Un model MoE deschis cu 1,6 trilioane de parametri și context nativ de 1 milion de tokeni
Meituan a lansat LongCat-2.0, un model MoE open-source cu 1,6 trilioane de parametri și context nativ de 1 milion de tokeni, folosind atenția rară LongCat. Este un pas major spre democratizarea AI-ului de ultimă generație.
Together AI lansează open-source OSCAR: un sistem de cuantizare a cache-ului KV pe 2 biți, conștient de atenție, pentru servirea LLM-urilor cu context lung
Together AI a lansat open-source OSCAR, un sistem de cuantizare a cache-ului KV pe 2 biți, care reduce memoria de 8 ori și accelerează decodarea de 3 ori pentru LLM-uri cu contexte lungi, menținând o acuratețe ridicată.