Filtrează articolele

AI

Cum să reduci bugetul de tokeni fără să micșorezi echipa

Cum să reduci bugetul de tokeni fără să micșorezi echipa
În lumea tehnologiei, unde fiecare linie de cod și fiecare interacțiune cu un model AI costă bani, apare o întrebare care îi ține treji pe CEO-i: cum faci față exploziei cheltuielilor cu inteligența artificială fără să îți decimezi echipa? Răspunsul, după cum arată ultimele tendințe, nu stă în tăieri masive de personal, ci într-o inginerie inteligentă a bugetului de tokeni.

Jensen Huang, CEO-ul Nvidia, a stârnit controverse recent, în cadrul podcastului All-In, imediat după GTC 2026. El a spus că, dacă un inginer plătit cu 500.000 de dolari pe an consumă tokeni AI în valoare de mai puțin de jumătate din salariu, „aș fi profund alarmat”. Nvidia, a confirmat el, se îndreaptă spre o factură anuală de 2 miliarde de dolari doar pentru tokenii folosiți de forța sa de inginerie. Huang descria un compromis pe care majoritatea companiilor l-au făcut deja, dar cu mai puțin tam-tam: banii care odată plăteau oameni acum plătesc tot mai mult tokeni.

Cele patru mari hyperscalere (AWS, Microsoft Azure, Google Cloud, Oracle) au ghidat investiții de capital combinate de aproximativ 700 de miliarde de dolari pentru 2026, aproape dublu față de anul precedent. În același timp, datele de la firma de outplacement Challenger, Gray & Christmas arată că AI este cel mai frecvent motiv invocat pentru concedierile din SUA, pentru a patra lună consecutivă – un record. Un memoriu intern Meta, obținut de Reuters, descria tăierile din mai, de 8.000 de posturi, ca o compensare a investițiilor substanțiale ale companiei, într-un trimestru în care veniturile au crescut cu 33%. Concedierile la companii ca acestea nu sunt măsuri de supraviețuire. Sunt măsuri de finanțare.

Problema este că finanțarea nu a cumpărat ceea ce promitea. Gartner a chestionat 350 de executivi din companii cu venituri de peste un miliard de dolari, toate implementând agenți AI sau automatizări, și a descoperit că aproximativ 80% au redus personalul, fără nicio corelație cu îmbunătățirea randamentului. Verdictul analistei Helen Poitevin a fost tranșant: „Reducerea forței de muncă poate crea spațiu bugetar, dar nu creează randament”.

Uber a învățat această lecție pe propria piele. A oferit 5.000 de ingineri instrumente de codare AI în decembrie și a epuizat întregul buget AI pentru 2026 până în aprilie. Chief Operating Officer Andrew Macdonald a recunoscut că, deși 70% din codul livrat este generat de AI, legătura cu ceea ce observă clienții lipsește: „Acea legătură încă nu există”.

Punând aceste două eșecuri cap la cap, problema reală devine clară. Companiile au tratat factura de tokeni ca fiind fixă, iar forța de muncă flexibilă, când realitatea este exact invers. Tăierile de salarii se fac o singură dată și iau cu ele cunoștințe instituționale. Un buget de tokeni, se dovedește, se îndoaie în jumătate de duzină de locuri, dacă cineva se obosește să îl proiecteze.

Cea mai ieftină soluție este și cea mai puțin spectaculoasă: nu mai plăti pentru procesarea repetată a aceluiași text. Prompt caching, acum standard la principalii furnizori de API, reduce costul intrărilor repetate cu până la 90% conform prețurilor publicate de Anthropic și OpenAI, deoarece conținutul static – instrucțiuni de sistem, documente de referință – este procesat o dată și re-citit la o fracțiune din cost. Firma de securitate ProjectDiscovery a documentat cum a crescut rata de cache hit de la 7% la 84% prin restructurarea prompturilor, reducând cheltuielile totale cu LLM-urile cu 59-70%, în timp ce servea 9,8 miliarde de tokeni din cache. Un singur exercițiu de inginerie a recuperat mai mult buget decât majoritatea rundelor de concedieri atribuite AI.

Următoarea pârghie este rutarea muncii către modelul potrivit. Listele de prețuri ale furnizorilor arată că modelele flagship costă de cinci ori mai mult per token decât frații lor mai mici, și totuși multe sarcini de producție – clasificări de rutină, sumarizări – trimit totul la cel mai scump nivel, din lipsă de configurare. Procesarea în batch adaugă o reducere de 50% pentru orice nu necesită răspuns în timp real. Retrieval-augmented generation (RAG) atacă problema dintr-un alt unghi, trimițând modelului doar felia relevantă dintr-o bază de cunoștințe, nu întregul conținut. Compresia prompturilor taie exemplele redundante care umflă fiecare apel. Modelele open-weight reduc costurile și mai mult, gestionând sarcinile de rutină la o fracțiune din prețul API-urilor frontieră, pentru echipele dispuse să gestioneze infrastructura.

Toate aceste măsuri sunt echivalentul AI al stingerii luminilor în camerele goale. Iar limita de 1.500 de dolari pe lună per inginer impusă de Uber după depășirea din aprilie este o dovadă timpurie că disciplina cheltuielilor ajunge, mai devreme sau mai târziu. Companiile care înaintează aleg pur și simplu să o facă înainte ca bugetul să le forțeze.

Optimizarea facturii de tokeni contează doar dacă economiile merg undeva productiv, iar cele mai puternice dovezi indică oamenii. Cercetarea lui Poitevin a descoperit că organizațiile care au îmbunătățit ROI erau cele care foloseau AI pentru a amplifica forța de muncă, nu pentru a o înlocui. Klarna a făcut experimentul controlat în numele tuturor: a înlocuit aproximativ 700 de posturi de servicii clienți cu un asistent bazat pe OpenAI, iar satisfacția clienților a scăzut. CEO-ul Sebastian Siemiatkowski a spus Bloomberg ceea ce puțini executivi recunosc cu voce tare: „Rezultatul a fost o calitate mai scăzută, iar asta nu este sustenabil”. Fintech-ul rulează acum un model mixt, cu AI absorbind volumul de rutină, iar oamenii re-angajați gestionând tot ce necesită judecată. Gartner se așteaptă ca modelul să se răspândească, prezicând că până în 2027, jumătate dintre companiile care au tăiat personalul de servicii clienți pentru AI îi vor re-angaja.

Există o investiție în forța de muncă pe care logica optimizării o face urgentă, nu opțională. Institutul pentru AI Centrat pe Om de la Stanford a descoperit că angajarea dezvoltatorilor de software cu vârste între 22 și 25 de ani a scăzut cu aproape 20% față de nivelurile din 2024, chiar dacă cohortele mai în vârstă au crescut. Asta înseamnă că firmele elimină terenul de antrenament pentru inginerii seniori de care vor avea nevoie peste cinci ani pentru a dirija toate aceste sisteme. O afacere care tocmai a redus cu 60% factura de tokeni are spațiu bugetar pentru a continua să angajeze la nivelul de intrare. Dacă o face sau nu, este o decizie de leadership, nu una financiară.

Provocarea lui Huang va răsuna în continuare în convorbirile cu analiștii, iar cifrele de capital vor continua să crească. Companiile care vor ieși în față nu vor fi cele care au cheltuit cel mai mult pe tokeni sau care au tăiat cei mai mulți oameni pentru a-i plăti – ci cele care au observat că bugetul de tokeni era linia flexibilă dintotdeauna, l-au strâns cu inginerie, nu cu capete de personal, și au cheltuit diferența pe oamenii care fac tokenii să valoreze ceva.

De ce este important:


Acest articol arată că reducerea costurilor AI nu trebuie să însemne concedieri în masă. Prin optimizarea inteligentă a consumului de tokeni – caching, rutare, modele mai mici – companiile pot elibera resurse pentru a investi în oameni, singurii care pot transforma AI-ul în valoare reală. Într-o piață în care investițiile în AI explodează, iar concedierile devin o modă, această perspectivă oferă o alternativă sustenabilă: inginerie în loc de tăieri.

Acest site folosește cookie-uri pentru a-ți oferi o experiență de navigare cât mai plăcută. Continuarea navigării implică acceptarea acestora.