Koa nu este un model de uz general, ci unul specializat, antrenat să exceleze în sarcini de vânzări, marketing și suport clienți. Practic, Salesforce și Nvidia au luat un model de bază open-source și l-au ajustat fin pentru a răspunde nevoilor specifice ale companiilor care folosesc platforma Agentforce. Aceasta este platforma prin care clienții Salesforce își construiesc agenți AI pentru a automatiza sarcini repetitive, cum ar fi răspunsul la întrebările clienților sau programarea întâlnirilor. Până acum, pentru sarcinile care necesitau raționament complex, aceste cereri erau redirecționate către modele de frontieră precum Claude sau ChatGPT, prin intermediul AI gateway-ului Agentforce. Cu Koa, însă, Salesforce își asumă controlul complet asupra acestui proces.
Jayesh Govindarajan, EVP de AI la Salesforce, a explicat pentru TechCrunch că, deși compania a construit de-a lungul timpului multe modele de limbaj mici și specializate, raționamentul a fost întotdeauna un domeniu în care s-au bazat pe furnizorii de modele de frontieră. „Până acum”, a subliniat el. Motivul pentru care Salesforce nu a încercat până acum să antreneze un model propriu de raționament a fost lipsa unui model de bază pre-antrenat potrivit. „Întotdeauna am vrut să facem asta, dar provocarea a fost lipsa unui model de bază pre-antrenat cu care să începem. Până la Nemotron, nu exista un model american suveran, pre-antrenat, care să fie disponibil, care să fie de ultimă generație și care să aibă o proveniență clară a datelor. Nu avem nicio idee pe ce date este antrenat Qwen”, a spus Govindarajan, referindu-se la popularul model open-weight chinezesc produs de Alibaba.
Această declarație scoate la iveală o preocupare tot mai mare în rândul companiilor occidentale: proveniența datelor și suveranitatea AI. Într-o eră în care datele sunt noul petrol, companiile nu vor să își trimită informațiile sensibile către modele antrenate pe date potențial compromise sau controlate de regimuri străine. Nemotron, fiind un model american open-weight, oferă această garanție de suveranitate. Iar Salesforce și Nvidia au profitat de această oportunitate pentru a crea un model care nu doar că este sigur, dar este și extrem de eficient.
Un aspect remarcabil al procesului de post-antrenare a lui Koa este că nu s-au folosit date reale de la clienții Salesforce. În schimb, cele două companii au generat date sintetice care imită comportamentul clienților. „Am simulat un mediu de servicii pentru clienți, cu un personaj de profesionist în servicii clienți, inclusiv clienți furioși care sună la centrul de suport, până la un profesionist în vânzări care încearcă să încheie o afacere”, a descris Govindarajan. Această abordare nu doar că evită problemele de confidențialitate, dar permite și un control fin asupra calității datelor de antrenare.
Koa este proiectat să fie mai bun la sarcinile specifice pe care clienții Salesforce le doresc de la agenții lor, și mai ieftin în ceea ce privește tokenii consumați, comparativ cu trimiterea acelorași sarcini către Claude sau ChatGPT. Kari Ann Briski, VP de Generative AI Software pentru Enterprise la Nvidia, a subliniat avantajele arhitecturale: „Cu Nemotron, avem o arhitectură unică pentru inferență care este eficientă din punct de vedere al tokenilor. Este un fel de trifecta a lucrurilor de care ai nevoie: AI suveran, timp până la primul token, raționament eficient, pentru tokenomica întregului sistem.”
Această eficiență este crucială în lumea enterprise, unde costurile pot escalada rapid dacă fiecare interacțiune cu un agent AI consumă o cantitate mare de tokeni. Prin reducerea costurilor și îmbunătățirea performanței pentru sarcini specifice, Koa ar putea deveni o alternativă atractivă la modelele de frontieră, care sunt adesea supradimensionate pentru nevoile unei companii.
Cu toate acestea, Salesforce nu renunță complet la parteneriatele cu OpenAI sau Anthropic. De fapt, compania tocmai a anunțat o colaborare cu Anthropic numită ClaudeForce, care permite companiilor să folosească Claude ca interfață AI, în timp ce datele lor rămân în sistemele Salesforce, protejate de infrastructura acestora. Această mișcare strategică arată că Salesforce vrea să ofere clienților săi flexibilitate maximă, permițându-le să aleagă între mai multe modele, în funcție de nevoile specifice.
Dar ce înseamnă acest lucru pentru laboratoarele de AI? În primul rând, semnalează o schimbare majoră în dinamica pieței. Până acum, laboratoarele de frontieră dețineau monopolul asupra modelelor de raționament avansat. Companiile enterprise erau forțate să apeleze la ele pentru sarcinile complexe, plătind prețuri mari și acceptând să își trimită datele către serverele lor. Koa demonstrează că este posibil să construiești modele specializate, eficiente și suverane, care pot rivaliza cu modelele generale în domenii specifice.
În al doilea rând, această dezvoltare subliniază importanța modelelor open-weight. Nvidia, prin Nemotron, oferă o fundație solidă pe care alte companii pot construi. Acest model de colaborare ar putea deveni un model de business pentru viitor, în care furnizorii de infrastructură AI oferă baza, iar companiile enterprise o personalizează pentru nevoile lor. Aceasta ar putea eroda dominația laboratoarelor care își păstrează modelele închise.
În al treilea rând, Koa este un exemplu clar că inovația în AI nu mai este exclusivitatea câtorva giganți din Silicon Valley. Salesforce, o companie cunoscută pentru CRM, și Nvidia, un producător de chip-uri, au reușit să creeze un model de raționament care ar putea schimba modul în care companiile își implementează strategiile de AI. Aceasta este o lecție pentru toți jucătorii din industrie: adaptabilitatea și specializarea pot fi la fel de valoroase ca și puterea brută de calcul.
Desigur, rămâne de văzut cum va performa Koa în practică. Salesforce nu a publicat încă benchmark-uri detaliate care să compare Koa cu modelele de frontieră în sarcini enterprise. Dar faptul că o companie de talia Salesforce investește resurse semnificative în acest demers este un indicator puternic că direcția este corectă. Iar pentru laboratoarele de AI, acesta este un semnal de alarmă: dacă nu reușesc să ofere soluții mai specializate, mai eficiente și mai suverane, riscă să piardă o piață uriașă în favoarea unor jucători mai agili.
De ce este important:
Această știre este importantă deoarece marchează o schimbare de paradigmă în industria AI. Salesforce și Nvidia demonstrează că modelele de raționament nu mai sunt un domeniu exclusiv al laboratoarelor de frontieră, ci pot fi construite și de companii enterprise, folosind modele open-weight și date sintetice. Aceasta ar putea duce la o democratizare a AI, la reducerea costurilor pentru companii și la o mai mare suveranitate a datelor. În același timp, pune presiune pe OpenAI, Anthropic și alții să inoveze mai rapid și să își adapteze ofertele la nevoile specifice ale pieței enterprise, altfel riscă să piardă o sursă importantă de venituri.
