Eva Marie Saint, actrița americană câștigătoare a Premiului Oscar, cunoscută pentru rolurile din „Pe chei" și „Călătorie la capătul groazei", a încetat din viață pe 6 octombrie la vârsta de 96 de ani. Formată la Actors Studio, ea a rămas una dintre cele mai respectate voci ale cinematografiei clasice americane.
TurboQuant, OSCAR și EpiCache sunt trei tehnologii de compresie a cache-ului KV care revoluționează modul în care rulează modelele de limbaj mari. Fiecare oferă un echilibru diferit între viteză, acuratețe și memorie, deschizând calea către un AI mai accesibil și mai eficient.
Together AI a lansat open-source OSCAR, un sistem de cuantizare a cache-ului KV pe 2 biți, care reduce memoria de 8 ori și accelerează decodarea de 3 ori pentru LLM-uri cu contexte lungi, menținând o acuratețe ridicată.
Acest site folosește cookie-uri pentru a-ți oferi o experiență de navigare cât mai plăcută. Continuarea navigării implică acceptarea acestora.