Cum un model „adversarial” te poate face invizibil pentru camerele de supraveghere

Într-o lume în care camerele de supraveghere sunt peste tot – pe străzi, în magazine, la semafoare – ideea de a scăpa de ochiul lor devine din ce în ce mai tentantă. Dar ce-ai zice dacă ai putea pur și simplu să „păcălești” aceste camere, astfel încât să nu te mai detecteze? Exact asta a reușit Bill Swearingen, un specialist în securitate cibernetică din Kansas City, care a petrecut un an întreg dezvoltând un model „adversarial” – un tipar generat pe calculator – care poate bloca detectarea de către camerele de supraveghere și cititoarele de plăcuțe de înmatriculare.

Swearingen, co-fondator al întâlnirii de securitate cibernetică SecKC, a pornit de la o premisă simplă: confidențialitatea este un drept fundamental. Într-un interviu acordat TechCrunch, el a explicat că a vrut să ofere oamenilor o modalitate de a „renunța” la a fi urmăriți. Proiectul său, numit noRecognition, generează modele care, aplicate pe haine sau pe vehicule, împiedică algoritmii de detectare să identifice persoane sau obiecte. Practic, camera înregistrează totul, dar nu „vede” nimic relevant – nu declanșează alerte, nu recunoaște fețe, nu citește plăcuțe.

Cum funcționează? Modelele sunt create prin tehnici de învățare automată adversarială. În loc să blocheze fizic camera, ele exploatează vulnerabilități în algoritmii de detectare. Acești algoritmi, folosiți pe scară largă de camerele moderne, sunt antrenați să recunoască anumite tipare – cum ar fi formele fețelor sau caracterele de pe plăcuțe. Prin suprapunerea unui model special calculat, Swearingen reușește să „deruteze” algoritmul, făcându-l să nu mai identifice obiectul acoperit. Este ca și cum ai pune o pereche de ochelari de soare unui sistem de recunoaștere facială – dar la un nivel mult mai sofisticat.

Swearingen a început cu un laborator de testare proof-of-concept, în care a încercat să învingă unul câte unul algoritmii open-source de detectare video. Pe parcursul anului, a rafinat modelele, folosind din ce în ce mai multă putere de calcul. A mulțumit comunității care a contribuit cu hardware pentru a accelera procesul. În total, a rulat aproximativ 31 de milioane de teste. Rezultatul? Modele care pot fi generate la cerere, adaptate pentru a acoperi de la oameni până la vehicule.

Prima demonstrație publică a avut loc vineri, la conferința de securitate cibernetică Def Con din Las Vegas. Swearingen a imprimat un model pe un vehicul și a demonstrat că acesta poate învinge detectarea în lumea reală. Este o realizare importantă, pentru că până acum multe astfel de modele funcționau doar în laborator. Faptul că a funcționat pe un vehicul real, în fața unui public de specialitate, arată că tehnologia este viabilă.

Dar de ce este atât de important? Pentru că supravegherea algoritmică devine din ce în ce mai răspândită. În Statele Unite, camerele de supraveghere sunt montate la tot pasul, uneori la doar câțiva metri una de alta. Poliția folosește cititoare de plăcuțe pentru a urmări mașinile, iar recunoașterea facială este folosită pentru a identifica suspecți – cu rezultate mixte și, uneori, înfricoșătoare. Swearingen a povestit cum, anul trecut, a vrut să participe la un protest, dar s-a simțit inconfortabil știind că camerele ar putea urmări oamenii care își exercitau dreptul la liberă exprimare. Dacă el, un bărbat alb de vârstă mijlocie, din centrul Americii, se simțea astfel, cu siguranță alții se simt și mai vulnerabili.

Proiectul noRecognition nu blochează înregistrarea video – camera înregistrează totul. Dar împiedică algoritmii să detecteze ce este acoperit. Astfel, persoana devine din nou „un ac într-un car de fân”, până când cineva știe exact unde să caute. Este o formă de „opt-out” tehnologic, o modalitate de a-ți exercita dreptul la confidențialitate într-o lume în care acest drept este tot mai greu de păstrat.

Swearingen nu este singurul care explorează această direcție. De-a lungul anilor, au existat proiecte artistice și branduri de îmbrăcăminte care au încercat să creeze haine care să învingă recunoașterea facială. Unii producători de ochelari au încercat și ei, dar cu succes limitat. Swearingen spune că cercetarea sa se bazează pe aceste lucrări anterioare, dar a dus lucrurile la un nivel superior, prin testare masivă și optimizare.

Desigur, există și întrebări etice. Un astfel de model ar putea fi folosit de infractori pentru a scăpa de supraveghere. Swearingen recunoaște această posibilitate, dar subliniază că scopul său este de a proteja confidențialitatea cetățenilor obișnuiți, nu de a ajuta infractorii. În plus, tehnologia nu este infailibilă – camerele pot fi îmbunătățite, iar algoritmii pot fi antrenați să recunoască modelele adverse. Este o cursă a înarmărilor, dar Swearingen crede că merită să ofere oamenilor un instrument de apărare.

În final, proiectul noRecognition ridică o întrebare mai amplă: cât de multă supraveghere suntem dispuși să acceptăm? Într-o societate democratică, dreptul la confidențialitate este esențial. Dacă tehnologia ne poate oferi o modalitate de a ne proteja de ochii indiscreți ai algoritmilor, poate că merită să o explorăm. Swearingen a demonstrat că este posibil, iar demonstrația de la Def Con este doar începutul.

De ce este important:

Acest proiect evidențiază o problemă crucială a erei digitale: echilibrul dintre securitate și confidențialitate. Pe măsură ce camerele de supraveghere devin tot mai inteligente, cetățenii au nevoie de instrumente pentru a-și proteja identitatea și libertatea de mișcare. Modelul „adversarial” al lui Swearingen oferă o soluție practică, dar și un punct de discuție despre limitele supravegherii algoritmice. Este un pas important pentru drepturile civile în contextul tehnologic actual.