Funcția, lansată în versiune beta în anumite regiuni, permitea oricărui utilizator să scrie „@” urmat de numele unui cont public Instagram, iar AI-ul genera o imagine stilizată a acelei persoane, de obicei într-un context artistic sau fantastic. De exemplu, puteai să generezi o imagine cu un prieten celebru într-un peisaj de basm sau într-o ținută istorică. La prima vedere, părea inofensiv, chiar distractiv. Însă, rapid, au apărut întrebări legate de consimțământ: oare persoanele respective și-au dat acordul pentru a fi folosite ca „materie primă” pentru generarea de imagini? Ce se întâmplă dacă imaginea generată este jignitoare, denigratoare sau pur și simplu falsă? Și, mai ales, cine deține controlul asupra acestor reprezentări digitale?
Reacțiile nu au întârziat să apară. Activiști pentru drepturile digitale, jurnaliști și chiar utilizatori obișnuiți au criticat dur Meta, acuzând compania că încalcă principii fundamentale de confidențialitate. „Este o încălcare flagrantă a consimțământului”, a declarat un expert în etica AI de la Universitatea din Oxford, citat de mai multe publicații. „Nu poți să iei imaginea cuiva, să o bagi într-un algoritm și să produci noi imagini fără permisiunea explicită a acelei persoane. Este ca și cum ai folosi chipul cuiva fără să-l întrebi.”
Meta a încercat inițial să apere funcția, spunând că imaginile generate sunt doar pentru divertisment și că nu sunt stocate sau folosite în alte scopuri. Dar presiunea a fost prea mare. În câteva zile, compania a anunțat că „Muse Image” este retrasă, iar echipa de dezvoltare va reevalua modul în care poate fi implementată o astfel de tehnologie cu respectarea confidențialității. „Am auzit feedback-ul și recunoaștem că am ratat ținta”, a spus un purtător de cuvânt al Meta. „Vom lucra pentru a găsi o modalitate mai bună de a aduce această experiență utilizatorilor, cu garanții solide de confidențialitate și consimțământ.”
Aceasta nu este prima dată când Meta se confruntă cu probleme legate de AI și confidențialitate. În trecut, compania a fost criticată pentru modul în care antrenează modelele AI pe baza datelor utilizatorilor, fără un consimțământ clar. De asemenea, Instagram a fost acuzat că nu protejează suficient imaginile copiilor, iar funcții precum „Muse Image” ar fi putut agrava aceste probleme. De exemplu, un utilizator rău intenționat ar fi putut genera imagini compromițătoare cu minori, folosind conturi publice ale acestora. Deși Meta susține că avea filtre pentru a preveni abuzurile, criticii spun că acestea erau insuficiente.
Pe lângă aspectele legale și etice, există și o dimensiune socială. Într-o eră în care deepfake-urile și imaginile generate de AI devin din ce în ce mai realiste, astfel de funcții pot alimenta dezinformarea și pot eroda încrederea în ceea ce vedem online. „Dacă oricine poate genera o imagine falsă cu tine, cum mai știi ce este real?” se întreabă un utilizator pe Twitter. „Și cum te aperi dacă cineva creează o imagine care te face să arăți rău?”
Meta a promis că va reveni cu o versiune îmbunătățită a funcției, dar nu a oferit un termen. Până atunci, rămâne de văzut dacă compania va reuși să găsească un echilibru între inovație și respectarea drepturilor utilizatorilor. Un lucru este cert: această controversă arată că inteligența artificială nu poate fi implementată fără a ține cont de impactul social și de așteptările publicului.
De ce este important:
Această decizie a Meta subliniază o tensiune fundamentală în dezvoltarea tehnologiei: viteza inovației versus protecția drepturilor individuale. Pe măsură ce AI devine tot mai integrat în platformele sociale, întrebările legate de consimțământ, confidențialitate și controlul asupra imaginii personale devin cruciale. Retragerea funcției „Muse Image” nu este doar o victorie pentru activiștii pentru confidențialitate, ci și un semnal că utilizatorii nu mai acceptă pasiv experimente tehnologice care le încalcă spațiul personal. Pentru viitor, companiile tech vor trebui să consulte mai mult publicul și să implementeze garanții solide înainte de a lansa funcții bazate pe AI. Altfel, riscă nu doar reacții negative, ci și pierderea încrederii – cea mai valoroasă monedă în era digitală.
