Filtrează articolele

Subiect: #AngelSpec

Tencent lansează open-source AngelSpec: un cadru unificat de antrenament pentru decodarea speculativă MTP și bloc-paralelă pe modele Hy3

Tencent a deschis codul sursă al AngelSpec, un cadru unificat de antrenare pentru decodarea speculativă pe modele Hy3. Include DFly, un draftor bazat pe difuzie bloc, și D-cut, un modul de bugetare adaptivă, oferind o accelerare de până la 2,40× față de decodarea autoregresivă standard.

🕒 3 zile în urmă

Acest site folosește cookie-uri pentru a-ți oferi o experiență de navigare cât mai plăcută. Continuarea navigării implică acceptarea acestora.