Tencent lansează Hy3: un model MoE deschis cu 295 de miliarde de parametri, 21 de miliarde activi și context de 256K
Tencent a lansat Hy3, un model open-source de tip Mixture-of-Experts cu 295 de miliarde de parametri, dintre care doar 21 de miliarde sunt activi, și o fereastră de context de 256.000 de tokeni. Modelul promite eficiență și accesibilitate pentru cercetători și dezvoltatori din întreaga lume.
🕒 1 zile în urmă