Acuzațiile sunt cutremurătoare: agresorii – inclusiv un prieten de-al unei victime și tatăl vitreg al alteia – au folosit modelele AI pentru a modifica fotografii realizate când victimele erau minore, transformându-le în materiale pornografice explicite. Cele cinci reclamante acuză companiile de producere de CSAM, de beneficierea de pe urma unor întreprinderi de trafic sexual, de neglijență, de proiectare defectuoasă a produselor și de crearea unei „deranjamente publice”.
„Deranjamentul public înseamnă că aceasta nu este doar o problemă pentru clienții noștri... este un flagel pentru societate”, a declarat Annika Martin, avocata celor cinci reclamante. „Vrem să instalăm aceste bariere de protecție pentru a nu provoca acest rău unei întregi generații de copii.” Reclamantele cer instanței să oblige companiile AI să implementeze măsuri de siguranță mai eficiente pentru a preveni crearea de imagini exploatatoare și abuzive, precum și despăgubiri financiare.
Cazul Jane Doe 4, o femeie de 20 de ani din Wyoming, este deosebit de șocant. Conform plângerii, tatăl ei vitreg a folosit chatbot-ul Grok al SpaceXAI pentru a genera aproximativ 7.000 de imagini și videoclipuri sexuale explicite dintr-o singură fotografie făcută când ea avea aproximativ 11 ani. Imaginile generate includeau reprezentări ale ei nudă, efectuând acte sexuale asupra unor bărbați, inclusiv asupra tatălui vitreg. Unele imagini aveau și subtitrări explicite. SpaceXAI a trimis un singur raport către Centrul Național pentru Copii Dispăruți și Exploatați (NCMEC) în februarie, când tatăl vitreg a cerut modelului să genereze o imagine care o înfățișa pe fată fiind violată de mai mulți bărbați. Compania nu a inclus nicio imagine abuzivă în raport și nu a furnizat adresa IP a presupusului agresor, nici măcar după ce autoritățile au cerut-o de mai multe ori.
Când forțele de ordine au reușit în cele din urmă să-l identifice și să-l investigheze pe tatăl vitreg, au descoperit că acesta, la fel ca și ceilalți agresori menționați în proces, făcea schimb de imagini sexuale explicite cu alți utilizatori online. La două zile după ce poliția i-a percheziționat dispozitivele digitale și l-a acuzat de infracțiuni de exploatare a copiilor, acesta s-a sinucis. „Jane Doe 4 a intrat într-o perioadă de criză personală extremă”, se arată în plângere. „A trebuit să facă față traumei propriei exploatări sexuale, în timp ce își ajuta mama să navigheze prin pierderea soțului ei... Familia ei a fost sfâșiată, iar viața ei a devenit un coșmar.”
Avocata Martin a declarat că autoritățile i-au spus lui Jane Doe 4 că tatăl vitreg a folosit Grok deoarece era mai receptiv la comenzile sale decât alte modele AI. NCMEC a refuzat să comenteze cazul, iar SpaceXAI nu a răspuns solicitărilor de comentarii.
Aplicațiile care pot modifica fotografii pentru a crea imagini intime și pornografie au existat de ani de zile în umbra internetului. Dar crearea de imagini intime fără consimțământ a devenit mult mai răspândită în 2025, când marile companii AI, inclusiv Google, OpenAI și xAI, și-au actualizat instrumentele de generare a imaginilor într-un mod care permitea utilizatorilor să „dea jos” hainele oamenilor până la bikini. De la sfârșitul anului 2025 până la începutul acestui an, oamenii au folosit instrumentele xAI pentru a face un număr mare de fotografii modificate care înfățișau femei și copii în bikini sau chiar mai puțin. Ca urmare, țări precum Indonezia, Malaezia și Regatul Unit au lansat investigații și au impus interdicții temporare asupra xAI. În prezent, conform testelor NPR, chatboții creați de Google și OpenAI refuză să răspundă la comanda „pune-o în bikini”. O versiune gratuită a Grok a afișat o eroare la încărcarea imaginilor după ce a primit aceeași comandă.
Procesul subliniază o problemă sistemică: companiile de tehnologie nu sunt suficient de reglementate în ceea ce privește prevenirea abuzurilor. Deși SpaceXAI, la fel ca alte companii de internet, este obligată prin lege să raporteze suspiciunile de exploatare sexuală a copiilor către NCMEC, plângerea susține că compania nu a făcut-o în mod adecvat. Mulți furnizori de servicii electronice trimit un volum mare de rapoarte de activitate suspectă către NCMEC, dar nu includ „informații suficiente sau acționabile”, deoarece legea nu o cere, a scris centrul într-un raport din martie.
De ce este important:
Acest caz este crucial deoarece stabilește un precedent legal pentru responsabilitatea companiilor de inteligență artificială în fața abuzurilor comise cu ajutorul tehnologiei lor. Dacă instanța va decide în favoarea reclamantelor, ar putea forța toate companiile AI să implementeze măsuri de siguranță mult mai stricte, protejând astfel milioane de copii și adulți de exploatare. În plus, procesul scoate la lumină lacunele legislative actuale, care nu obligă companiile să furnizeze informații complete autorităților atunci când raportează materiale de abuz. Fără o reglementare clară, tehnologia AI poate deveni o armă periculoasă în mâinile agresorilor, iar acest proces ar putea fi primul pas către o protecție reală a victimelor.
