OpenAI încearcă să o depășească pe Anthropic cu noi protecții pentru confidențialitatea clienților

Pe măsură ce modelele de inteligență artificială devin tot mai puternice, crește și potențialul ca acestea să fie folosite în mod abuziv. Totodată, se amplifică și cererea pentru măsuri de siguranță care să prevină astfel de abuzuri. Companiile de AI se află acum într-o poziție delicată: trebuie să respecte confidențialitatea clienților lor enterprise, dar în același timp să monitorizeze utilizarea pentru a detecta eventuale probleme. Simțind o oportunitate de a o depăși pe rivala sa Anthropic, OpenAI tocmai a anunțat o abordare de siguranță centrată pe confidențialitate pentru monitorizarea abuzurilor. Compania testează un nou serviciu pentru clienți selectați, numit Private Safety Processing (Procesare Privată de Siguranță). Acesta este un sistem automatizat care urmărește potențialele abuzuri, dar nu reține niciun fel de date ale clienților. Acest sistem contrazice clar politica de retenție a datelor anunțată recent de Anthropic, care a nemulțumit unii clienți.Politica Anthropic, anunțată în iulie, permite laboratorului de AI să păstreze datele utilizatorilor (toate sesiunile și conversațiile din ele) pentru o perioadă de 30 de zile, în cazul „modelelor acoperite”. Aceste modele includ toate modelele din clasa Mythos și „modelele viitoare cu capacități similare”, potrivit companiei. Politica a fost concepută pentru scopuri de siguranță, permițând laboratorului să analizeze și să identifice potențiale nereguli. Cu toate acestea, a îngrijorat profund unele întreprinderi care manipulează cantități mari de date sensibile și nu doresc ca acestea să fie păstrate sau inspectate de laboratorul de AI.OpenAI, ca majoritatea celorlalte companii de AI, oferă deja clienților un nivel relativ de confidențialitate prin respectarea unei politici cunoscute sub numele de Zero Data Retention (ZDR). ZDR folosește agenți în cadrul API-ului OpenAI pentru a monitoriza abuzurile la nivel de sesiune. Astfel, datele clienților nu sunt reținute de companie, dar companiile pot scana activitatea suspectă fără intervenție umană. Este de menționat că Anthropic respectă în mare parte ZDR, cu excepția „modelelor acoperite”, cum ar fi Fable.OpenAI spune că Private Safety Processing este o tehnologie nouă care extinde domeniul de aplicare al ZDR. O descrie ca o formă de monitorizare de siguranță pe termen lung, care evaluează intrările și ieșirile din mai multe conversații, nu doar una. Din nou, monitorizarea este realizată de un agent care, dacă este declanșat, surprinde interacțiunile și le analizează pe parcursul sesiunilor pentru a detecta semne de potențial abuz. Noua tehnologie ajută OpenAI să detecteze utilizarea rău intenționată a AI care are loc pe mai multe sesiuni, a declarat un purtător de cuvânt pentru TechCrunch. Un actor rău intenționat – ipotetic, cineva care încearcă să creeze malware pentru un atac cibernetic – poate distribui cererile pentru a evita detectarea. Private Safety Processing poate analiza aceste conversații multiple pentru semne de abuz, fără revizuire umană a conversațiilor utilizatorului.În cazul în care sistemul este declanșat, poate trimite un „semnal îngust definit” către OpenAI care avertizează asupra unui tip specific de activitate, spune compania. Pe baza acestui semnal, OpenAI poate decide dacă „aplicarea este necesară”. Dacă da, OpenAI va contacta clientul pentru mai mult context sau pentru a lucra împreună la problemă, iar clientul poate alege să împărtășească date cu OpenAI la discreția sa, a spus purtătorul de cuvânt. Prin contrast, Anthropic notează că revizuirea umană a datelor clienților poate avea loc, dar doar „printr-o cale de acces controlată” care implică „un set mic de recenzori aprobați”. Fiecare dintre aceste sesiuni de revizuire este „înregistrată într-un jurnal rezistent la falsificare, pe care recenzorii nu îl pot suprima sau modifica”, spune compania.Competiția corporativă dintre OpenAI și Anthropic este tensionată în acest moment, ambele companii căutând orice oportunitate pentru a obține un avantaj una față de cealaltă. Un raport recent a arătat că creșterea OpenAI în Q2 a fost mai lentă decât a Anthropic. Rata anualizată de venituri a Anthropic este acum de aproximativ 65 de miliarde de dolari. Investitorii Anthropic au spus că ar putea lista la bursă la o valoare de 2 trilioane de dolari, în timp ce OpenAI lucrează și la propria IPO.Această mișcare a OpenAI vine într-un moment în care confidențialitatea datelor devine o preocupare majoră pentru companiile care adoptă AI. Întreprinderile din sectoare precum sănătate, finanțe sau juridic manipulează date extrem de sensibile și sunt din ce în ce mai precaute în privința modului în care aceste date sunt stocate și procesate de furnizorii de AI. Politica de retenție a Anthropic a fost un punct de fricțiune, iar OpenAI pare să capitalizeze pe această nemulțumire. Prin Private Safety Processing, OpenAI oferă o soluție care promite să detecteze abuzurile fără a sacrifica confidențialitatea, un argument puternic pentru clienții enterprise.Cu toate acestea, rămân întrebări despre eficacitatea și limitele acestei tehnologii. Cum poate un agent să detecteze abuzuri complexe pe mai multe sesiuni fără a reține date? Ce se întâmplă dacă semnalul trimis este prea vag sau prea specific? Și cum se asigură OpenAI că nu se creează un fals sentiment de securitate? Aceste întrebări sunt esențiale pentru a evalua dacă Private Safety Processing este cu adevărat o îmbunătățire sau doar o strategie de marketing.În plus, această competiție între OpenAI și Anthropic reflectă o tendință mai largă în industria AI: companiile nu se luptă doar pentru performanță tehnică, ci și pentru încrederea clienților. Confidențialitatea și securitatea datelor devin factori de diferențiere cruciali. Pe măsură ce reglementările precum GDPR și alte legi de protecție a datelor devin mai stricte, companiile care pot oferi garanții solide de confidențialitate vor avea un avantaj competitiv.### De ce este important:Această mișcare a OpenAI este importantă pentru că redefinește standardele de confidențialitate în industria AI. Într-un moment în care încrederea în tehnologiile AI este esențială pentru adoptarea lor pe scară largă, capacitatea de a monitoriza abuzurile fără a compromite datele clienților este un pas major. Pentru întreprinderile care gestionează date sensibile, această abordare ar putea reduce barierele de adoptare a AI, oferind un echilibru între securitate și confidențialitate. De asemenea, această competiție între OpenAI și Anthropic stimulează inovația în domeniul siguranței AI, ceea ce beneficiază în final pe toți utilizatorii. Rămâne de văzut cum va răspunde Anthropic și dacă alte companii vor urma exemplul, dar un lucru este clar: confidențialitatea nu mai este un lux, ci o necesitate în era AI.