Kog: Cum să obții inferență AI de 30 de ori mai rapidă pe GPU-urile pe care le ai deja
Startup-ul francez Kog promite o inferență AI de 30 de ori mai rapidă pe GPU-urile standard, printr-o optimizare software profundă. Cu o demonstrație de 3.000 de tokeni pe secundă și un fondator cu background în fizică și hacking, Kog atrage deja interesul pieței, vizând în special ingineria software.
🕒 1 zile în urmă
