Green, un nume respectat în domeniu, a publicat în august un fir pe X și un articol pe blog care au devenit virale. El a observat de ani buni dezbaterea dintre nevoia guvernelor de a sparge dispozitive pentru a combate criminalitatea și necesitatea unei criptări puternice pentru a proteja intimitatea cetățenilor. Acum, el aduce un argument nou: dacă AI devine din ce în ce mai bună la găsirea vulnerabilităților, companiile vor putea să-și corecteze software-ul într-un ritm fără precedent, lăsând guvernele fără „portițe” prin care să intre.
„Mă îngrijorează că AI va face software-ul mult prea sigur”, a scris Green, avertizând că autoritățile americane ar putea pierde accesul la defectele de securitate de care depind pentru a supraveghea țintele. Această idee vine pe fondul unei lungi istorii de tensiuni între forțele de ordine și susținătorii criptării. În 2014, fostul director al FBI, James Comey, a popularizat conceptul de „going dark” – întuneric total – avertizând că criptarea ar putea împiedica autoritățile să asculte conversații sau să acceseze date de pe dispozitive. Atunci, aplicații precum Signal, WhatsApp și iMessage au introdus criptarea end-to-end pentru mase, făcând aproape imposibilă interceptarea tradițională în timp real. Gigantul Apple a început, de asemenea, să cripteze datele de pe dispozitive în mod implicit, făcând mai grea spargerea unui iPhone protejat de un cod PIN puternic.
Cu toate acestea, autoritățile au continuat să prindă infractori, inclusiv prin hacking, iar oamenii nevinovați s-au bucurat de un nivel decent de intimitate. Green explică acest lucru printr-un „armistițiu incomod”: în loc să introducă uși din spate în dispozitive, guvernele au investit în instrumente de hacking și spyware care pot submina securitatea dispozitivelor și a proprietarilor lor. Acum, acest armistițiu ar putea fi spulberat de AI, deoarece modelele de limbaj devin tot mai bune și mai rapide la găsirea vulnerabilităților la scară largă. Teoretic, asta înseamnă că vom ajunge la un punct în care companiile își pot face software-ul mult mai puțin predispus la atacuri. Rezultatul, potrivit lui Green, ar putea fi că guvernele vor cere din nou uși din spate, făcând dispozitivele tuturor mai puțin sigure prin design.
Am cerut părerea mai multor experți, de la specialiști în confidențialitate și securitate cibernetică până la hackeri cu experiență în dezvoltarea de instrumente pentru guverne. Unii sunt de acord cu Green, alții nu, iar unii văd ambele părți. Luna Tong, cercetătoare care a lucrat la două companii importante care caută bug-uri și dezvoltă exploit-uri pentru guverne, este de acord: „Există un goblen de bug-uri acum, dar este un fenomen temporar; bug-urile vor deveni rare din nou în curând.” Un alt cercetător, cu peste un deceniu de experiență în firme de securitate ofensivă, a declarat că se teme că AI ar putea face cercetătorii umani de securitate inutili, deoarece va fi mult mai greu să găsești bug-uri, iar apărătorii vor avea în cele din urmă avantajul. A cerut să rămână anonim pentru a vorbi liber.
„Este clar că niciun stat nu va renunța la posibilitatea de supraveghere”, a spus Paolo Stagno, directorul de tehnologie al Crowdfense, o companie cunoscută care dezvoltă, achiziționează și vinde vulnerabilități necunoscute – așa-numitele zero-day – către guverne. Stagno a explicat că procesul actual, prin care guvernele sunt nevoite să exploateze defecte de securitate pentru a sparge dispozitive, este „cel mai democratic sistem pe care îl avem”, dar că status quo-ul s-ar putea să nu dureze dacă bug-urile devin prea greu de găsit.
Alți trei oameni care lucrează în industria securității ofensive, și unul care a lucrat în trecut, nu sunt de acord. Argumentele lor se rezumă la: bug-urile ușoare vor fi mai ușor de găsit; bug-urile mai complexe, care sunt în general mai valoroase și mai utile pentru guverne, nu vor dispărea; iar AI poate asista activ cercetătorii care vând bug-uri autorităților. Hamid Kashfi, fondatorul firmei de securitate ofensivă DarkCell și care lucrează și la startup-ul de securitate cibernetică Xbow, a spus că „pentru fiecare bug găsit și raportat de AI, există probabil 20 care nu sunt raportate”.
Această dezbatere nu este doar teoretică. Ea are implicații profunde asupra modului în care ne protejăm datele, asupra echilibrului dintre securitate și libertate, și asupra viitorului supravegherii. Dacă AI reușește să facă software-ul aproape impenetrabil, guvernele ar putea fi nevoite să recurgă la metode mai invazive, cum ar fi instalarea de spyware pe dispozitivele țintelor sau forțarea companiilor să slăbească criptarea. Pe de altă parte, dacă AI nu reușește să elimine toate bug-urile, atunci guvernele își vor păstra capacitatea de a sparge dispozitive, dar vor trebui să se adapteze la un peisaj în continuă schimbare.
Un lucru este cert: inteligența artificială schimbă regulile jocului în securitatea cibernetică, atât pentru apărători, cât și pentru atacatori. Iar această schimbare ar putea avea consecințe neașteptate asupra modului în care guvernele își exercită puterea de supraveghere. Rămâne de văzut dacă Green are dreptate sau dacă industria va găsi mereu o cale de a menține echilibrul fragil dintre securitate și spionaj.
De ce este important:
Această discuție nu este doar despre tehnologie, ci despre putere și control. Dacă AI face hacking-ul guvernamental imposibil, s-ar putea să asistăm la o schimbare majoră în modul în care statele își exercită autoritatea. Pe de o parte, am putea câștiga mai multă intimitate și securitate personală. Pe de altă parte, guvernele ar putea cere măsuri extreme, cum ar fi uși din spate obligatorii, ceea ce ar slăbi securitatea tuturor. Este esențial să înțelegem aceste dinamici pentru a putea influența politicile publice și pentru a ne proteja drepturile într-o eră în care AI devine omniprezentă.
