Conform plângerii de 12 pagini, Harwood a deschis mai multe conturi pe xAI folosind identități false. „Deși a acceptat în mod expres să respecte Termenii de serviciu și Politica de utilizare acceptabilă ale xAI, pârâtul a conceput solicitări înșelătoare pentru a ocoli măsurile de siguranță încorporate în Grok și apoi a abuzat de instrument pentru a transforma fotografii non-sexuale în imagini sexuale explicite, fără știrea sau consimțământul subiecților”, se arată în document.
Acuzațiile includ încărcarea de imagini cu adulți și minori care nu aveau natură sexuală, iar apoi utilizarea Grok pentru a le transforma în așa-numitele „deepfake-uri” sexualizate. Plângerea detaliază că, deși Grok a refuzat inițial să proceseze solicitările, invocând încălcarea regulilor de moderare a conținutului, Harwood a continuat să trimită prompturi modificate, încercând să ocolească aceste bariere. „O revizuire a conturilor xAI ale pârâtului arată că, în numeroase ocazii, acesta a trimis prompturi pentru a modifica imaginile în scopul sexualizării subiecților, iar Grok a răspuns refuzând să urmeze instrucțiunile pe motiv că materialul respectiv încălca măsurile de moderare. Ca răspuns, pârâtul a trimis în mod repetat prompturi suplimentare, cu modificări, în încercarea de a ocoli eforturile de moderare ale Grok”, se mai arată în plângere.
xAI solicită despăgubiri financiare, deși suma nu este specificată, precum și o ordonanță judecătorească care să interzică permanent lui Harwood utilizarea platformei, care are peste 2,6 milioane de utilizatori. Acesta este primul proces intentat de o companie de AI unuia dintre utilizatorii săi și vine pe fondul unei atenții intense asupra xAI la nivel global, din cauza posibilității de a crea astfel de conținut pe platformă.
Grok a fost în centrul atenției la Washington, a intrat în vizorul autorităților de reglementare europene și s-a confruntat cu interdicții atât în Malaezia, cât și în Indonezia, din cauza conținutului sexual explicit care poate fi generat. La începutul acestui an, Elon Musk a respins acuzațiile conform cărora Grok ar produce imagini sexualizate cu minori generate de AI, în special imagini nud. „Nu am cunoștință de nicio imagine nud cu minori generată de Grok. Literalmente zero”, a spus Musk într-o postare pe X în ianuarie.
Cu toate acestea, plângerea xAI subliniază că compania „aplică regulile împotriva încălcătorilor prin suspendări de conturi, terminări de conturi și raportarea materialelor suspecte de abuz sexual asupra copiilor către Centrul Național pentru Copii Dispăruți și Exploatați”. Documentul menționează că platforma a suspendat peste 52.000 de conturi și a făcut peste 73.000 de plângeri către această organizație, ceea ce a dus la aproape 250 de arestări doar în 2026.
Cazul ridică întrebări serioase despre responsabilitatea companiilor de AI în prevenirea abuzurilor. Deși xAI susține că are măsuri de siguranță, acest incident demonstrează că utilizatorii determinați pot găsi modalități de a le ocoli. Procesul ar putea stabili un precedent legal important, forțând companiile să își îmbunătățească sistemele de moderare și să ia măsuri mai dure împotriva celor care le încalcă termenii.
Pe de altă parte, criticii subliniază că xAI însăși poartă o parte din vină, deoarece Grok a fost lansat cu filtre de conținut insuficiente. Deși Musk a negat existența imaginilor nud cu minori generate de Grok, plângerea arată că instrumentul a refuzat inițial solicitările, dar utilizatorul a reușit să le ocolească. Acest lucru sugerează că măsurile de siguranță nu sunt infailibile.
În contextul mai larg, acest proces reflectă o tendință îngrijorătoare: creșterea deepfake-urilor sexuale, în special cele care vizează minori. Potrivit unor rapoarte, astfel de cazuri s-au înmulțit alarmant în ultimii ani, iar legislația abia acum începe să țină pasul. Statele Unite au adoptat legi împotriva deepfake-urilor non-consensuale, dar aplicarea lor rămâne dificilă.
Pentru xAI, acest proces este și o încercare de a-și curăța imaginea. Compania a fost criticată pentru că nu face suficient pentru a preveni abuzurile. Prin acțiunea în justiție, xAI speră să demonstreze că ia în serios siguranța copiilor și că va acționa împotriva celor care îi încalcă regulile.
În concluzie, cazul Terry Harwood vs. xAI este mai mult decât un simplu proces; este un test pentru întreaga industrie a inteligenței artificiale. Cum vor răspunde companiile la provocările etice și legale pe care le ridică tehnologiile lor? Rămâne de văzut, dar un lucru este cert: lupta împotriva abuzurilor sexuale asistate de AI abia a început.
De ce este important:
Acest caz este crucial deoarece stabilește un precedent legal pentru modul în care companiile de AI pot fi trase la răspundere pentru utilizarea abuzivă a tehnologiilor lor. De asemenea, evidențiază vulnerabilitățile sistemelor de moderare a conținutului și necesitatea unor măsuri mai stricte pentru protejarea minorilor în era digitală. Procesul ar putea influența reglementările viitoare privind inteligența artificială și ar putea forța companiile să investească mai mult în siguranța utilizatorilor, în special a copiilor.
