Flock a anunțat că recomandă acum departamentelor de poliție să păstreze datele timp de șapte zile, în loc de 30 de zile, cum era anterior. Această schimbare vine la pachet cu un nou mod numit „Evidence Mode”, care poate fi activat atunci când clienții au nevoie să păstreze datele pentru perioade mai lungi în „cazuri excepționale” și care necesită un număr de caz specific. De asemenea, clienții vor putea seta limite privind datele pe care le partajează cu alți clienți, în funcție de tipul de infracțiune investigată.
Însă cea mai mediatizată schimbare este instrumentul „Audit Assistance”, lansat în aprilie. Flock susține că „mai mult de o treime” dintre clienți l-au activat deja, iar compania impune acum ca toți clienții să îl activeze până la sfârșitul anului. Potrivit unui blog post publicat joi, Audit Assistance „detectează activități anormale și le semnalează pentru revizuirea administratorului”. Dacă se întâmplă acest lucru, instrumentul poate bloca automat utilizatorii care au fost semnalați, până când un administrator intervine. Flock susține că instrumentul a ajutat deja clienții să descopere și să oprească abuzuri.
Cu toate acestea, deși mai mulți executivi au lăudat capacitățile Audit Assistance, compania nu a explicat în detaliu cum funcționează de fapt. Comentariile oficiale oferă o oarecare înțelegere a ceea ce poate face, dar devin vagi când vine vorba de mecanismul exact. De exemplu, șefa departamentului de încredere și conformitate de la Flock, Ashley Haber, a declarat într-un videoclip că Audit Assistance poate semnala „ceea ce ar putea părea un istoric de căutare ciudat din partea unui utilizator specific”, ajutând clienții să înțeleagă cum își folosesc utilizatorii sistemul. Într-un alt videoclip, co-fondatoarea Flock, Paige Todd, a spus: „Audit Assistance semnalează tipare neobișnuite devreme. Gândiți-vă la un utilizator care caută aceeași plăcuță în mod repetat timp de mai mult de 30 de zile.” Iar maiorul Patrick Krieg de la Departamentul de Poliție din Dunwoody, Georgia, un client Flock, a descris funcția într-un comunicat de presă drept „un algoritm care ne-a notificat cu privire la orice tip de părtinire”.
Flock descrie Audit Assistance ca o funcție care poate „scoate la suprafață activități atipice devreme și le poate revizui rapid, cu un flux de lucru clar și documentat”. Ceea ce nu este clar – și TechCrunch a cerut răspunsuri – este cum funcționează acest „algoritm”, pe ce date este antrenat și dacă a fost dezvoltat folosind un model de limbaj mare. TechCrunch a întrebat, de asemenea, ce tip de tipare este proiectat să scoată la suprafață și ce anume este considerat „activitate anormală”.
Potrivit Flock, Audit Assistance nu se bazează pe învățare automată sau inteligență artificială. Compania a declarat pentru TechCrunch: „Este un instrument de date care semnalează tipare de căutare atipice pentru o revizuire suplimentară. Un exemplu care ar declanșa o alertă este dacă un utilizator caută aceeași plăcuță folosind mai multe coduri de caz diferite, deoarece acest lucru ar putea indica un potențial abuz. O alertă nu înseamnă că este cu siguranță un abuz – înseamnă doar că merită o investigație suplimentară.”
Cu toate acestea, numeroase întrebări rămân fără răspuns, inclusiv dacă Flock are statistici sau date care să arate cât de eficient este instrumentul, care sunt ratele de fals pozitiv și fals negativ și dacă a fost auditat de o terță parte. Consilierul principal pentru politici al Uniunii Americane pentru Libertăți Civile (ACLU), Chad Marlow, a scris ca răspuns la anunțul Flock că „nu există dovezi că instrumentul funcționează în mod constant” pentru a aborda abuzurile.
„În timp ce zeci de ofițeri au fost recent arestați, concediați sau altfel disciplinați pentru utilizarea greșită a Flock în scopuri personale, Flock susține că aceste arestări sunt dovada că instrumentul său de audit funcționează”, a scris Marlow. „Cu toate acestea, dacă nu știm numărul de ofițeri care utilizează greșit sistemul, nu putem concluziona dacă Flock este eficient.”
Această lipsă de transparență ridică semne de întrebare serioase cu privire la responsabilitatea companiilor de tehnologie de supraveghere. Flock, care a devenit un jucător important în domeniul camerelor de citire a plăcuțelor de înmatriculare, este folosită de mii de agenții de aplicare a legii din Statele Unite. Instrumentele sale sunt concepute pentru a ajuta poliția să identifice vehiculele implicate în infracțiuni, dar au fost documentate cazuri de abuz, inclusiv ofițeri care au folosit sistemul pentru a urmări foști parteneri sau pentru a hărțui persoane.
Flock susține că noul său instrument de audit este un pas important pentru a preveni astfel de abuzuri. Dar fără detalii concrete despre cum funcționează, cum este testat și cum este auditat, este dificil să avem încredere în aceste afirmații. Mai mult, reducerea perioadei de păstrare a datelor la șapte zile ar putea fi văzută ca o mișcare pozitivă pentru confidențialitate, dar ridică și întrebări despre impactul asupra investigațiilor care necesită date mai vechi.
În plus, „Evidence Mode” ar putea fi o portiță prin care poliția să păstreze datele mai mult timp, dacă există un număr de caz. Dar cine decide ce este un „caz excepțional”? Și cum se asigură Flock că acest mod nu este abuzat? Aceste întrebări rămân fără răspuns.
Este clar că Flock încearcă să răspundă criticilor și să își îmbunătățească imaginea, dar transparența reală ar însemna publicarea detaliilor tehnice ale instrumentului, precum și a datelor despre eficacitatea sa. Fără aceste informații, promisiunile rămân doar promisiuni. În timp ce tehnologia de supraveghere devine tot mai răspândită, este esențial ca companiile care o produc să fie supuse unui control riguros, iar publicul să aibă acces la informații clare despre modul în care funcționează aceste sisteme.
De ce este important:
Acest subiect este crucial pentru că pune în lumină tensiunea dintre inovația tehnologică și protecția drepturilor civile. Flock este un exemplu tipic de companie care dezvoltă instrumente puternice de supraveghere, dar care nu oferă suficiente detalii despre funcționarea lor. Fără transparență, există riscul ca aceste instrumente să fie folosite abuziv, iar cetățenii să nu aibă nicio cale de a contesta deciziile bazate pe ele. De asemenea, dezbaterea evidențiază nevoia de reglementare mai strictă a tehnologiilor de supraveghere, pentru a ne asigura că acestea servesc interesului public, nu doar intereselor comerciale sau ale forțelor de ordine. În contextul în care astfel de sisteme devin tot mai răspândite, este vital ca societatea să ceară răspunsuri și să nu accepte promisiuni vagi.
