Legea californiană incriminează deja orice activitate care „facilitează în cunoștință de cauză” sau „ajută sau încurajează în mod nesăbuit” crearea de pornografie deepfake fără consimțământ. Mai mult, în 2025, statul a adoptat o lege care permite victimelor să intenteze acțiuni civile împotriva terților care facilitează astfel de materiale. Cu toate acestea, orașul susține că, în ciuda reglementărilor binecunoscute, ambele companii tech au continuat să găzduiască și să obțină profit de pe urma acestor programe.
„Apple și Google fac bani din aplicații care exploatează femei și fete, generând deepfake-uri intime fără consimțământ”, a declarat David Chiu, avocatul orașului San Francisco, într-un comunicat trimis prin e-mail către TechCrunch. „Deși companiile au rupt legăturile cu unele aplicații problematice, Apple și Google au responsabilitatea de a fi proactive și vigilente pentru a preveni abuzul sexual.”
Scrisorile trimise de biroul lui Chiu către Google și Apple, consultate de TechCrunch, subliniază că cele două companii „au fost informate” cu privire la rolul lor în „procesarea plăților pentru achiziții ilegale de aproape un an”, dar au continuat să o facă. Potrivit documentelor, ambele companii au fost avertizate în mod repetat că găzduiesc aceste aplicații.
În ianuarie și din nou în aprilie, Tech Transparency Project (TTP) a publicat rapoarte și a trimis scrisori către ambele companii, semnalând că există „zeci de aplicații” în magazinele lor care „vindeau imagini intime non-consensuale (NCII) deepfake în schimbul plăților” procesate de firme. Raportul TTP din aprilie spunea că Google și Apple au „direcționat” în mod intenționat utilizatorii către astfel de aplicații și a numit ambele companii „participanți cheie în răspândirea instrumentelor AI care pot transforma persoane reale în imagini sexualizate”.
În plus, Chiu a declarat pentru Wired că ambele companii au câștigat probabil „milioane de dolari în comisioane” din aplicațiile care ofereau astfel de servicii. Scrisorile biroului lui Chiu avertizează că Apple și Google s-ar putea confrunta cu sancțiuni civile pentru încălcarea legii și solicită să contacteze orașul în termen de 28 de zile.
Pornografia deepfake a fost, în mare parte, o problemă pentru femeile celebre, dar aplicațiile nudify fac posibil ca oricine cu o fotografie disponibilă public să fie vizat. Acest fenomen ridică întrebări serioase despre responsabilitatea platformelor tech în era inteligenței artificiale generative.
Contextul legal și implicațiile
California a fost întotdeauna un pionier în ceea ce privește reglementarea tehnologiei, iar această acțiune a orașului San Francisco este doar cel mai recent exemplu. Legea din 2025 care permite acțiuni civile împotriva facilitatorilor terți este una dintre cele mai dure din Statele Unite. Ea vizează nu doar creatorii de conținut deepfake, ci și pe cei care „facilitează” sau „ajută” la crearea sau distribuirea acestuia.
Apple și Google au fost de mult timp criticați pentru modul în care gestionează aplicațiile din magazinele lor. Deși ambele companii au politici care interzic conținutul sexual explicit sau deepfake-urile fără consimțământ, aplicațiile nudify au reușit să ocolească aceste restricții, deghizându-se adesea în instrumente de editare foto sau de „îmbunătățire a imaginii”.
„Aceste aplicații sunt concepute special pentru a încălca demnitatea și intimitatea oamenilor”, a spus Chiu. „Ele nu au nicio utilitate legitimă. Singurul lor scop este să creeze imagini sexuale false, fără acordul persoanei respective.”
Reacțiile companiilor
Până la momentul publicării acestui articol, nici Apple, nici Google nu au emis un răspuns oficial la scrisorile primite. Cu toate acestea, surse din interiorul companiilor sugerează că acestea iau în serios amenințările legale și analizează posibilele măsuri de conformare.
În trecut, Apple a fost lăudată pentru politica sa strictă privind confidențialitatea, dar a fost și criticată pentru că nu a reușit să elimine complet aplicațiile deepfake din App Store. Google, pe de altă parte, a fost acuzată că algoritmii săi de căutare și recomandare direcționează utilizatorii către astfel de aplicații.
Impactul asupra victimelor
Pornografia deepfake non-consensuală are efecte devastatoare asupra victimelor. Pe lângă umilința publică și daunele psihologice, multe victime se confruntă cu pierderea locului de muncă, hărțuire online și chiar amenințări fizice. Femeile și fetele sunt în mod disproporționat vizate, iar aplicațiile nudify fac ca orice fotografie postată pe rețelele sociale să poată fi transformată într-o imagine sexuală falsă.
„Aceste aplicații nu sunt doar o încălcare a intimității, ci și o formă de violență digitală”, a declarat dr. Maria Popescu, expert în securitate cibernetică și drepturile femeilor. „Ele normalizează abuzul și fac ca victimele să se simtă neputincioase. Este esențial ca platformele tech să își asume responsabilitatea.”
Ce urmează?
Termenul de 28 de zile acordat de biroul avocatului orașului San Francisco este doar începutul. Dacă Apple și Google nu se conformează, acestea riscă sancțiuni civile care ar putea ajunge la milioane de dolari. Mai mult, această acțiune ar putea deschide calea pentru alte orașe și state să adopte măsuri similare.
În același timp, există presiuni tot mai mari la nivel federal pentru reglementarea inteligenței artificiale generative. Mai multe proiecte de lege au fost introduse în Congres, dar progresul este lent. Până când legislația federală va fi adoptată, statele precum California rămân în prima linie a luptei împotriva abuzurilor AI.
Concluzie
Ordinul orașului San Francisco reprezintă un punct de cotitură în relația dintre marile companii tech și responsabilitatea lor socială. Apple și Google nu mai pot pretinde că sunt simple platforme pasive; ele sunt actori activi care beneficiază financiar de pe urma aplicațiilor dăunătoare. Rămâne de văzut dacă aceste companii vor alege să își curețe magazinele de aplicații sau să lupte în instanță.
În orice caz, mesajul este clar: tehnologia nu poate fi folosită ca scuză pentru a încălca drepturile fundamentale ale oamenilor. Iar cei care profită de pe urma abuzurilor vor fi trași la răspundere.
De ce este important:
Această acțiune a orașului San Francisco stabilește un precedent legal major, arătând că platformele tech pot fi considerate răspunzătoare pentru conținutul găzduit în magazinele lor, mai ales atunci când acesta încalcă legi clare privind consimțământul și intimitatea. În contextul exploziei inteligenței artificiale generative, decizia subliniază necesitatea unor reglementări mai stricte și a unei vigilențe sporite din partea companiilor tech pentru a preveni abuzurile. Pentru milioane de potențiale victime, aceasta este o rază de speranță că justiția poate acționa împotriva celor care facilitează crearea de imagini sexuale false fără consimțământ.
