Perplexity și NVIDIA lansează JOLT: O metodă revoluționară de Reinforcement Learning Profesor-Elev care promițe să schimbe paradigmele antrenamentului modelelor mici
Cercetătorii Perplexity și NVIDIA introduc JOLT, o metodă Joint Teacher-Student RL care revoluționează distilarea cunoștințelor. În loc de imitare statică, JOLT creează o buclă de retroacțiune bidirecțională unde profesorul își ajustează pedagogia în timp real bazându-se pe performanțele elevului, permițând modelelor mici (SLMs) să achiziționeze raționament complex de tip frontier la costuri de inferență drastice reduse.
🕒 1 săptămâni în urmă
