Perplexity AI lansează un orchestrator hibrid de inferență locală și în cloud pentru PC, care direcționează automat sarcinile AI între dispozitiv și servere în funcție de complexitate, latență și confidențialitate. Sistemul promite viteze mai mari și protejarea datelor sensibile.
Perplexity AI a lansat open-source un tokenizer Unigram care oferă o latență p50 de cinci ori mai mică decât Hugging Face tokenizers, promițând să accelereze procesarea textului în modelele de limbaj.
Acest site folosește cookie-uri pentru a-ți oferi o experiență de navigare cât mai plăcută. Continuarea navigării implică acceptarea acestora.