Un cercetător de la Princeton propune Recurrent Looped Transformer (RLT), o arhitectură care transportă starea decodorului la fiecare token, permițând o adâncime temporală nelimitată. Cu 96 de blocuri per token și fără resetare la granițele de servire, RLT ar putea rezolva problema memoriei pe termen lung în modelele lingvistice, deși nu are încă rezultate empirice.
Descoperă cum poți construi un agent bazat pe învățare prin întărire care învață să recupereze amintiri relevante pe termen lung pentru a îmbunătăți acuratețea răspunsurilor modelelor de limbaj mari (LLM). Articolul explică arhitectura, antrenarea și aplicațiile practice ale acestei tehnologii inovatoare.
Acest site folosește cookie-uri pentru a-ți oferi o experiență de navigare cât mai plăcută. Continuarea navigării implică acceptarea acestora.