Toți navigăm în timp real prin securitatea AI – inclusiv Google

Am avut recent ocazia să stau de vorbă cu Francis de Souza, directorul operațional al Google Cloud, în culisele unui eveniment din Los Angeles. În mijlocul zgomotului ambiental, de Souza, care vorbește într-un mod calm și măsurat, asemănător unui profesor universitar, a oferit sfaturi valoroase pentru companiile care navighează prin momentul de securitate AI prin care trecem cu toții. El a subliniat că „va exista o perioadă de tranziție, iar apoi, cred eu, vom ajunge într-un loc mai bun”. Nu vorbea despre Google în acel moment, dar este clar că și Google încă încearcă să înțeleagă lucrurile.Mesajul central al lui de Souza a fost unul pe care profesioniștii în securitate încearcă de ani de zile să-l insufle conducerii executive, iar acum, odată cu apariția AI, acesta a devenit și mai urgent: securitatea nu poate fi o simplă idee ulterioară. „Pe măsură ce companiile pornesc în această călătorie AI, ele trebuie să adopte o abordare de platformă”, a spus el. „Securitatea nu este ceva ce poți adăuga mai târziu și nu este ceva ce poți lăsa la latitudinea angajaților să facă singuri.” El a avertizat în mod special despre „AI-ul din umbră” – angajații care folosesc instrumente de consum fără supraveghere organizațională – și a susținut că companiile trebuie să ceară securitate, guvernanță și auditabilitate de la platformele lor încă de la început. „Nu există o strategie AI fără o strategie de date și o strategie de securitate. Ele trebuie să meargă mână în mână.”Este de remarcat faptul că nu făcea reclamă doar pentru Google Cloud. Când am observat că sfatul său suna ca o reclamă Google, el a replicat. Google, a spus el, este angajat într-o abordare multi-cloud și a susținut că companiile care cred că operează pe un singur cloud aproape sigur nu o fac. „Chiar dacă aleg un singur cloud, se bazează pe aplicații SaaS, au parteneri de afaceri care pot folosi cloud-uri diferite”, a spus el. „Este important ca companiile să aibă o postură de securitate care să fie consecventă în toate cloud-urile, în toate modelele.”El a susținut, de asemenea, că peisajul amenințărilor s-a schimbat atât de fundamental încât modelele defensive vechi sunt prea lente. El a menționat că timpul mediu dintre o breșă inițială și predarea către următoarea etapă a unui atac a scăzut de la opt ore la 22 de secunde, iar suprafața de atac s-a extins cu mult dincolo de perimetrul tradițional al rețelei. „Pe lângă activele obișnuite, acum aveți modele. Aveți conducte de date folosite pentru a antrena modelele. Aveți agenți, aveți prompturi. Toate acestea trebuie protejate.”O amenințare pe care de Souza a semnalat-o și care nu primește suficientă atenție: agenții care se deplasează prin sistemele interne ale unei companii pot descoperi depozite de date uitate, la care nimeni nu s-a mai gândit de ani de zile. „Multe organizații au servere SharePoint vechi și controale de acces pe care nu le-au actualizat cu adevărat, dar nu conta pentru că nimeni nu știa cu adevărat unde sunt. Dar agenții care cutreieră întreprinderea dumneavoastră vor găsi acele active de date și vor expune datele de pe ele.”Soluția, în opinia sa, este să întâmpini viteza mașinilor cu viteza mașinilor. „Asistăm acum la apariția unei apărări native AI, complet agentice, în care organizațiile pot rula agenți care conduc apărarea lor”, a spus el. „În loc să ai o apărare condusă de oameni sau chiar un om în buclă, poți avea acum oameni care supraveghează o apărare complet agentică.” El a adăugat că aceasta a devenit o problemă de conducere, nu doar una tehnologică. „Aceasta este o problemă la nivelul consiliului de administrație și al echipei executive. Nu este doar o problemă a echipei de securitate.”Dar, pe măsură ce AI preia o parte mai mare din volumul de muncă defensiv, oamenii calificați să o supravegheze sunt puțini – iar vulnerabilitățile pe care AI însuși le introduce se înmulțesc mai repede decât pot echipile de securitate să le abordeze. „Vom avea nevoie de oameni pentru a face față bug-pocalipsei”, a declarat Lea Kissner, directorul de securitate al informațiilor de la LinkedIn, pentru New York Times săptămâna aceasta, adăugând că nu se așteaptă ca industria să înțeleagă securitatea AI într-un mod durabil pe termen lung timp de cel puțin câțiva ani.Ceea ce ne aduce înapoi la furnizorii de platforme înșiși. The Register a publicat o serie de rapoarte în ultimele săptămâni care documentează un val de dezvoltatori Google Cloud care au primit facturi de cinci cifre în urma apelurilor API neautorizate către modelele Gemini – servicii pe care mulți dintre ei nu le folosiseră sau nu le activaseră intenționat. Cazurile au urmat un model familiar: chei API implementate inițial pentru Google Maps, plasate public conform instrucțiunilor Google, deveniseră în liniște capabile să acceseze Gemini după ce Google și-a extins domeniul de aplicare fără a dezvălui clar schimbarea.Rod Danan, CEO al platformei de pregătire pentru interviuri Prentus, a spus că factura sa a ajuns la 10.138 de dolari în aproximativ 30 de minute. Isuru Fonseka, un dezvoltator cu sediul în Sydney, s-a trezit cu taxe de aproximativ 17.000 de dolari australieni, deși credea că are un plafon de cheltuieli de 250 de dolari. Ceea ce niciunul nu știa era că sistemele automate ale Google le-au actualizat nivelurile de facturare pe baza istoricului contului, ridicându-le plafoanele efective până la 100.000 de dolari, fără consimțământ explicit. Google a rambursat ambii după ce The Register a publicat raportul inițial.Cu toate acestea, Google a declarat pentru The Register că nu are de gând să-și schimbe politica de actualizare automată a nivelurilor, spunând că prioritizează prevenirea întreruperilor serviciilor în detrimentul aplicării preferințelor bugetare declarate ale utilizatorilor. Între timp, există și întrebarea separată a ceea ce se întâmplă atunci când un dezvoltator încearcă să oprească lucrurile. The Register a raportat săptămâna aceasta despre cercetări ale firmei de securitate Aikido, care au descoperit că chiar și dezvoltatorii care prind o cheie compromisă și o șterg imediat s-ar putea să nu fie în siguranță. Potrivit constatărilor Aikido, atacatorii pot continua să folosească acea cheie până la 23 de minute, deoarece revocarea Google se propagă treptat în infrastructura sa.Cercetătorul Aikido, Joseph Leon, a declarat pentru The Register că, în această fereastră, ratele de succes sunt imprevizibile – în câteva minute, peste 90% din cereri s-au autentificat în continuare – iar atacatorii pot folosi timpul pentru a exfiltra fișiere și date de conversație stocate în cache din Gemini. Leon a mai remarcat că formatele mai noi de acreditări ale Google nu par să aibă aceeași problemă: acreditările API ale conturilor de service se revocă în aproximativ cinci secunde, iar noul format de cheie cu prefix AQ al Gemini durează aproximativ un minut. „Ambele rulează la scara Google”, a scris el în lucrarea conexă a Aikido. „Ambele sugerează că acest lucru este rezolvabil din punct de vedere tehnic și pentru cheile API Google.”Pe scurt, potrivit lui Leon, fereastra de 23 de minute nu este o constrângere de inginerie, ci o chestiune de priorități pentru companie. Acest lucru merită luat în considerare atunci când citiți sfatul lui de Souza, care este corect și ar trebui luat foarte în serios. Nu greșește, dar există în prezent un decalaj între ceea ce prescriu platformele și cât de repede se adaptează ele însele și este bine să fim conștienți și de acest lucru.### De ce este important:Acest articol este crucial pentru că dezvăluie o realitate incomodă: în timp ce giganții tech precum Google predică securitatea AI ca pe o prioritate absolută, propriile lor platforme au vulnerabilități și lacune care pot costa utilizatorii sume uriașe de bani. De la „AI-ul din umbră” și agenții care scot la iveală date uitate, până la chei API care rămân active minute întregi după ștergere, mesajul este clar: nimeni nu are încă un control total asupra securității AI. Pentru companii și dezvoltatori, aceasta înseamnă că nu se pot baza orbește pe furnizori – trebuie să fie vigilenți, să ceară transparență și să își construiască propriile strategii de securitate de la zero.