Prima măsură este adoptarea standardului deschis C2PA (Coalition for Content Provenance and Authenticity), care adaugă un semnal clar în metadatele fișierului, indicând că imaginea a fost generată de AI. C2PA este o organizație non-profit fondată în 2021, dedicată atenuării efectelor nocive ale imaginilor generate de AI asupra discursului public. Standardul a fost deja adoptat de o serie de produse Google, dar adoptarea rămâne inconsistentă în întreaga industrie. Deoarece semnalul C2PA este accesibil în mod clar în metadatele fiecărui fișier, acesta poate fi manipulat, fiind cel mai util în rândul utilizatorilor de încredere.
A doua măsură este parteneriatul cu Google pentru a include o filigrană invizibilă numită SynthID. Aceasta este concepută să fie mai greu de detectat, dar și mai greu de șters atunci când actorii rău intenționați încearcă să-și acopere urmele. SynthID este un efort mai nou, menit să fie o măsură mai robustă împotriva manipulării. Dezvoltat de Google, filigranul SynthID este proiectat să persiste chiar și atunci când actorii rău intenționați încearcă să îl elimine, fie prin capturi de ecran, redimensionare sau manipulare digitală.
Cele două sisteme sunt menite să se completeze reciproc, fiecare abordând punctele slabe ale celuilalt. „Filigranarea poate fi mai durabilă prin transformări precum capturile de ecran, în timp ce metadatele pot oferi mai multe informații decât o filigrană singură”, a notat OpenAI în anunțul său. „Împreună, ele fac proveniența mai rezistentă decât ar fi fiecare strat în parte.”
Noile protecții se aplică doar imaginilor generate de produsele OpenAI, deci nu vor afecta fluxul de imagini provenite de la instrumente AI mai puțin reputabile. Cu toate acestea, ele pot ajuta la asigurarea că OpenAI nu face parte din problemă. OpenAI lansează și un instrument public de verificare care va verifica ambele semnale, permițând utilizatorilor să testeze cu ușurință dacă o imagine a fost generată cu ajutorul AI. Inițial, instrumentul se va extinde doar la imaginile generate de produsele OpenAI; compania speră să îl extindă pentru a acoperi și alte instrumente în timp.
Contextul este alarmant: odată cu proliferarea generatoarelor de imagini AI, dezinformarea vizuală a devenit o armă puternică. De la alegeri compromise la escrocherii online, consecințele sunt grave. OpenAI, ca lider în domeniu, își asumă responsabilitatea de a oferi soluții, chiar dacă acestea nu sunt perfecte. C2PA și SynthID nu sunt infailibile, dar reprezintă un pas important în direcția corectă.
Un aspect interesant este că OpenAI nu se limitează doar la propriile produse. Compania își propune să extindă instrumentul de verificare și pentru alte instrumente AI, ceea ce ar putea crea un standard industrial. Totuși, rămâne de văzut cât de repede vor adopta și alți jucători aceste măsuri. Până atunci, utilizatorii pot cel puțin să verifice imaginile provenite de la DALL-E, ChatGPT sau alte produse OpenAI.
În plus, OpenAI colaborează cu Google, ceea ce sugerează o abordare unitară a problemei. Google a fost un pionier în domeniul filigranării cu SynthID, iar acum OpenAI îi urmează exemplul. Această cooperare ar putea duce la o adoptare mai largă a standardelor de proveniență a conținutului.
Pe de altă parte, criticii subliniază că măsurile nu sunt suficiente. Metadatele pot fi șterse cu ușurință de către utilizatorii experimentați, iar filigranele pot fi ocolite prin tehnici avansate. De asemenea, instrumentul de verificare este limitat la produsele OpenAI, ceea ce înseamnă că majoritatea imaginilor AI rămân neverificabile. Cu toate acestea, OpenAI recunoaște că este doar un început și că speră să îmbunătățească sistemul în timp.
Un alt punct important este că OpenAI nu impune aceste măsuri în mod obligatoriu. Utilizatorii pot alege să nu includă metadatele C2PA sau filigrana SynthID, ceea ce reduce eficiența. Totuși, compania încurajează adoptarea voluntară, iar pe termen lung, s-ar putea ca platformele sociale să înceapă să ceară astfel de semnale pentru a preveni răspândirea dezinformării.
În concluzie, OpenAI face un pas curajos în direcția transparenței, dar lupta împotriva imaginilor false este departe de a fi câștigată. Tehnologia avansează rapid, iar actorii rău intenționați găsesc mereu noi metode de a ocoli măsurile de securitate. Cu toate acestea, inițiativele precum C2PA și SynthID sunt esențiale pentru a menține un minim de încredere în conținutul vizual. Rămâne de văzut dacă industria va urma exemplul OpenAI sau dacă va continua să ignore problema.
De ce este important:
Într-o lume în care imaginile generate de AI devin din ce în ce mai realiste, capacitatea de a verifica autenticitatea lor este crucială pentru combaterea dezinformării, protejarea democrației și menținerea încrederii în media. Măsurile anunțate de OpenAI, deși imperfecte, reprezintă un pas concret spre un ecosistem digital mai sigur și mai transparent.
