„Ce mi-a rămas în minte nu au fost banii", spune Padmanabhuni, rememorând incidentul. „A fost faptul că nu a avut niciun mijloc să-și dea seama." Acel moment, petrecut acum aproximativ doi ani, a fost scânteia care a schimbat totul. Astăzi, tânăra antreprenoare conduce DetectifAI, o companie cu sediul în San Francisco, al cărei scop e simplu de formulat și infernal de greu de realizat: să se asigure că nimeni altcineva nu mai poate fi păcălit în același fel.
Problema e uriașă și crește cu o viteză amețitoare. Potrivit FBI, americanii au pierdut anul trecut aproape 900 de milioane de dolari din cauza escrocheriilor bazate pe inteligență artificială, cu 24% mai mult decât în 2024. Cifra devine și mai tulburătoare când o descompui pe vârste: persoanele de peste 60 de ani au pierdut de două ori mai mult decât cele între 50 și 59 de ani. Cu alte cuvinte, exact cei mai vulnerabili — cei mai puțin familiarizați cu tehnologia, cei mai înclinați să aibă încredere într-o voce cunoscută — sunt și cei mai loviți. Iar piața răspunde pe măsură.
Concurența nu lipsește. Reality Defender, Pindrop, Resemble AI, Microsoft Azure AI Content Safety, Nuance (deținut tot de Microsoft) — toate sunt nume care se bat pe acest teren. Dar Padmanabhuni vine cu o critică tăioasă la adresa lor: produsele actuale de detectare rulează în cloud, pe servere îndepărtate. Asta înseamnă că producătorii de telefoane nu le pot integra direct în dispozitive, lăsând persoana vizată practic fără apărare în momentul critic. Când primești un apel suspect, nu ai timp să trimiți audio-ul undeva în cloud și să aștepți un verdict. Ai nevoie de un răspuns acum, pe loc, în timp ce vocea îți vorbește la ureche.
Aici intervine abordarea DetectifAI. În loc să micșoreze modele uriașe de cloud ca să încapă într-un telefon — strategia pe care o adoptă alți jucători — compania spune că își proiectează modelele AI compacte de la zero, suficient de mici încât să ruleze direct în sistemul de operare al smartphone-ului. Scopul: un verdict instantaneu despre dacă o voce este generată de AI, în timpul apelurilor, în mesajele vocale și în alte formate audio, fără ca sunetul să părăsească vreodată dispozitivul. E o diferență care contează enorm — atât pentru viteză, cât și pentru confidențialitate.
Strategia comercială e la fel de clară. DetectifAI vinde mai întâi către producătorii de telefoane, licențiindu-și instrumentele software astfel încât detectarea să vină ca funcție integrată în sistemul de operare. Padmanabhuni face o analogie cu rolul pe care l-a jucat AT&T la lansarea primului iPhone: acordul exclusiv al operatorului l-a diferențiat de rivali. La fel, primul producător care va livra DetectifAI va câștiga un avantaj față de concurență, iar detectarea deepfake-urilor va deveni, în viziunea ei, o specificație standard — precum rezoluția camerei foto. Nimeni nu mai întreabă astăzi dacă un telefon are cameră bună; va fi la fel de firesc să întrebi dacă știe să recunoască o voce falsă.
Nucleul produsului este kitul de dezvoltare software (SDK) al DetectifAI — un pachet de cod pe care alte companii îl pot integra în produsele lor și licenția prin canalele existente. Padmanabhuni spune că un al doilea flux de venituri va veni din licențierea tehnologiei către firme și companii de prevenire a fraudei. Între timp, startup-ul are deja venituri timpurii și procesează peste 100.000 de apeluri pe lună pentru instituții financiare din India. Acele apeluri sunt efectuate de agenți vocali AI care se ocupă de colectarea datoriilor și de urmărirea documentelor de creditare, cu detectarea deepfake-urilor și verificarea vorbitorului (confirmarea că cel care sună este cine pretinde că este) la fiecare apel. Padmanabhuni a refuzat să numească clienții, invocând acorduri de confidențialitate.
Povestea ei personală e la fel de neobișnuită. Spune că a început să lucreze în machine learning la 12 ani, iar mai târziu a studiat sistemele cyber-fizice (tehnologia care leagă software-ul de mașini fizice) la Manipal Institute of Technology din India. Acolo a devenit, susține ea, cel mai tânăr lider de echipă al primei divizii indiene de mașini de curse fără pilot din Formula Student, o competiție internațională de inginerie pentru studenți. O traiectorie care explică de ce nu se sperie de probleme tehnice aparent imposibile.
Întrebată care a fost cel mai satisfăcător moment de până acum, nu vorbește despre investitori sau despre cifre. Se oprește la un mic test beta pe WhatsApp, în care utilizatorii puteau trimite mesaje vocale suspecte și primeau înapoi o evaluare dacă sunt reale sau nu. Un tester, ale cărui rude fuseseră înșelate, a sunat să spună că ar plăti pentru asta fără nicio ezitare. „Bunicul meu nu a avut asta", spune ea. E o propoziție simplă, dar care rezumă totul.
DetectifAI a strâns până acum o sumă mică de tip seed de la investitorii Josh Constine (fost editor la TechCrunch) și Manohar Kamath, principal la firma de consultanță KM Growth. Compania este una dintre startup-urile verificate de echipa editorială a TechCrunch pentru a concura în prestigioasa competiție Startup Battlefield, care are loc la TechCrunch Disrupt în octombrie.
Dincolo de povestea emoționantă, miza e mult mai mare decât o afacere. Deepfake-urile vocale nu mai sunt un experiment de laborator sau o curiozitate pentru pasionații de tehnologie. Sunt o armă ieftină, accesibilă și devastator de eficientă, folosită zilnic împotriva oamenilor obișnuiți. Iar apărarea, în acest moment, e aproape inexistentă pentru utilizatorul de rând. Ideea că protecția ar putea veni direct din telefonul din buzunar — fără aplicații suplimentare, fără abonamente, fără să trimiți nimic nicăieri — ar putea schimba regulile jocului. Rămâne de văzut dacă un startup tânăr, cu resurse limitate, poate convinge giganții producători de telefoane să adopte tehnologia lui înainte ca următoarea voce falsă să sune la ușa unui alt bunic.
De ce este important:
Deepfake-urile vocale reprezintă una dintre cele mai periculoase forme de fraudă ale momentului, pentru un motiv simplu: exploatează încrederea umană cea mai profundă — recunoașterea unei voci dragi. Spre deosebire de un e-mail suspect sau un link dubios, un apel în care auzi vocea fratelui, a fiicei sau a unui prieten apropiat nu ridică aceleași alarme instinctive. Iar pierderile financiare o confirmă: aproape 900 de milioane de dolari pierduți de americani anul trecut, cu o creștere de 24% față de anul precedent, și cu vârstnicii loviți de două ori mai dur decât restul populației. Problema nu e doar financiară, ci și emoțională — victimele rămân cu trauma de a fi fost înșelate prin cea mai intimă parte a vieții lor: vocea celor pe care îi iubesc. Abordarea DetectifAI, care mută detectarea din cloud direct în telefon, ar putea oferi prima linie reală de apărare pentru utilizatorul obișnuit, în momentul exact în care are nevoie de ea. Dacă tehnologia va fi adoptată de marii producători de telefoane, detectarea deepfake-urilor ar putea deveni la fel de standard ca rezoluția camerei — o funcție pe care nici nu o mai observi, dar care te protejează în fiecare zi. Iar asta, într-o lume în care realitatea și falsul devin tot mai greu de distins, nu e un lux, ci o necesitate.
