Subiect: #Perplexity AI
Perplexity și NVIDIA lansează JOLT: O metodă revoluționară de Reinforcement Learning Profesor-Elev care promițe să schimbe paradigmele antrenamentului modelelor mici
Cercetătorii Perplexity și NVIDIA introduc JOLT, o metodă Joint Teacher-Student RL care revoluționează distilarea cunoștințelor. În loc de imitare statică, JOLT creează o buclă de retroacțiune bidirecțională unde profesorul își ajustează pedagogia în timp real bazându-se pe performanțele elevului, permițând modelelor mici (SLMs) să achiziționeze raționament complex de tip frontier la costuri de inferență drastice reduse.
Perplexity AI lovește din nou: un model de embedding de buzunar și unul de 9B care sparge bariera de 92% pe MADQA
Perplexity AI a lansat familia pplx-embed-v2-late, cu un model compact de 0,6B parametri pentru edge și unul de 9B care atinge 92,4% pe benchmark-ul MADQA. O mutare strategică ce ridică ștacheta în lumea embedding-urilor și a sistemelor RAG.
Perplexity AI lansează orchestratorul hibrid de inferență local-server pentru PC: rutarea automată a sarcinilor între device și cloud
Perplexity AI lansează un orchestrator hibrid de inferență locală și în cloud pentru PC, care direcționează automat sarcinile AI între dispozitiv și servere în funcție de complexitate, latență și confidențialitate. Sistemul promite viteze mai mari și protejarea datelor sensibile.
Perplexity AI lansează open-source un tokenizer Unigram care reduce latența p50 de 5 ori față de crate-ul Hugging Face
Perplexity AI a lansat open-source un tokenizer Unigram care oferă o latență p50 de cinci ori mai mică decât Hugging Face tokenizers, promițând să accelereze procesarea textului în modelele de limbaj.