Clarifai a șters 3 milioane de fotografii furnizate de OkCupid pentru antrenarea unui AI de recunoaștere facială, conform unui raport
Clarifai, o platformă de inteligentiță artificială specializată în vizualizare și recunoaștere de imagini, a șters 3 milioane de fotografii pe care le-a primit de la OkCupid pentru a antrena un model de AI capabil să estimeze vârsta, sexul și rasa unei persoane doar pe baza feței, conform unui raport al Reuters. Ștergerea a inclus nu doar imaginile brute, ci și orice modele de AI antrenate folosind acele date. Conform investigației Comisiei Federale pentru Comerț (FTC), Clarifai a solicitat lui OkCupid — al cărui conducători au investit și în Clarifai — să împărtășească datele utilizatorilor în 2014. OkCupid, aplicația de dating, a furnizat apoi fotografii încărcate de utilizatori, împreună cu date demografice și de locație, chiar dacă politicile sale de confidențialitate interziceau expresiv astfel de partajări. Într-un e-mail dat din 2014, revizuit de Reuters în acte de judecată, fondatorul și CEO-ul Clarifai, Matthew Zeiler, a scris cofondatorului OkCupid, Maxwell Krohn: „Colectăm date acum și am realizat doar acum că OkCupid trebuie să aibă o CANTITATE ENORME de date minunate pentru acest scop.” Deși incidentul s-a produs acum peste doisprezece ani, FTC nu a deschis o investigație până în 2019, când un articol al New York Times a menționat că Clarifai a folosit imagini de la OkCupid pentru a construi un instrument de AI capabil să estimeze vârsta, sexul și rasa pe baza feței. În luna trecută, FTC și OkCupid — care aparține grupului Match Group — au atins un acord de răspundere. Deși OkCupid și Match Group nu au recunoscut culpabilitatea pentru alegarea că au înșelat utilizatorii prin violarea propriilor politici de confidențialitate, confirmarea Clarifai că a șters datele implică clar că a primit și folosit aceste fotografii. FTC a de asemenea acusat că, de la 2014, Match Group și OkCupid au ascuns deliberat acest comportament și au încercat să obstruiească investigația. Deși FTC nu poate aplica amendă pentru o prima infracțiune de acest tip, agencia a declarat că OkCupid și Match Group sunt „interzise permanent să falseze sau să ajute alții să falseze” natura colectării și partajării datelor — o interduncă care, de fapt, replică interzițiile existente deja în reglementările FTC. Clarifai și OkCupid nu au răspuns imediat cererilor de comentariu de la TechCrunch. Acest caz subliniază creșterea preoccupărilor privind utilizarea neautorizată a datelor personale pentru antrenarea modelelor de AI, în special în contexte sensibile precum recunoașterea facială, unde riscurile de discriminare, violare a confidențialității și manipulare sunt ridicate. De asemenea, evidențiază lipsa de aplicare proactivă a regulamentelor în domeniul protecției datelor, chiar și atunci când companiile violă politicile proprii.
