Ceea ce face acest caz cu adevărat ieșit din comun este cinismul cu care acești actori străini au folosit o tehnologie creată pentru productivitate în scopuri de propagandă. Mai mult, ChatGPT nu le-a servit doar ca unealtă de scriere, ci chiar ca mijloc prin care își raportau activitatea superiorilor, lăsând în urmă o urmă digitală ce a permis investigatorilor OpenAI să pună cap la cap întreaga schemă.
Cum au acționat rușii în America Latină
Operațiunile rusești au vizat cu precădere țări din America Latină și au avut ca scop subminarea sprijinului pentru Ucraina, dar și influențarea politicii locale. Una dintre cele mai elaborate acțiuni descoperite de OpenAI este considerată cea mai amplă campanie de influență cu care compania s-a confruntat până acum, pentru că a generat o reacție publică din partea unei figuri politice.
Concret, operativii ruși s-au dat drept o autoritate educațională regională din Peru și au reușit să convingă școli să organizeze activități despre Ucraina în care era prezentat Stepan Bandera. Figura lui Bandera este una extrem de controversată: admirat de naționaliștii ucraineni pentru lupta sa pentru independență înainte și în timpul celui de-al Doilea Război Mondial, dar detestat de alții, în special în Polonia, deoarece mișcarea sa a colaborat cu naziștii și a ucis polonezi și evrei.
Un articol publicat de presa peruană, în publicația Extra, a confirmat că un astfel de eveniment a avut loc într-o școală din Peru. Ulterior, un raport al presei poloneze despre acest eveniment a determinat un europarlamentar polonez de extremă dreapta să sugereze interzicerea intrării pe teritoriul Poloniei a persoanelor care își declară susținerea pentru Bandera. Cum subliniază chiar OpenAI în raportul său, această farsă rusă s-a hrănit din tensiunile istorice dintre ucraineni și polonezi, amplificându-le artificial.
Dar asta nu e tot. Memourile interne create de ruși cu ajutorul ChatGPT mai susțin că operativii au înființat un fals think tank în America Latină și au reușit să recruteze cercetători inocenți care intervieva experți și compuneau rapoarte. Sună cunoscut? OpenAI notează că această tactică seamănă izbitor cu o operațiune rusă din 2020, când un fals outlet de presă era legat de defunctul oligarh Evgheni Prigojin și de celebra sa agenție, Internet Research Agency, implicată în eforturile de influențare a alegerilor prezidențiale din SUA din 2016.
Și un detaliu picant: în unele cazuri, operativii ruși și-au atribuit meritul pentru evenimente pe care nu le-au orchestrat ei. Aparent, nu e prima dată când narațiunile false circulă nestingherite până când cineva le pune într-un raport scris cu AI.
Iranienii, mai eficienți cu ajutorul AI-ului
Dacă rușii foloseau în principal ChatGPT pentru a-și redacta rapoartele către superiori, iranienii au mers mai departe. Ei au folosit inteligența artificială pentru a produce și distribui conținut, atât în limba persană, cât și în engleză. Campania iraniană s-a concentrat pe conflictul dintre SUA și Iran și, într-o măsură mai mică, pe politica americană.
OpenAI susține că activitatea acestei operațiuni pare a fi „consistentă cu un actor comercial care rulează o campanie de influență contra cost", dar compania nu a reușit să identifice exact cine se află în spatele ei. Ceea ce au reușit însă să stabilească este că iranienii au creat șapte identități false de autori, cu ajutorul cărora au pitch-uit și au șlefuit articole lungi, pe care le-au publicat în aproximativ 100 de articole, în diverse publicații din întreaga lume.
Printre publicațiile vizate s-au numărat site-ul progresist american Daily Kos și britanicul Middle East Monitor. Potrivit NBC News, Middle East Monitor a publicat cel puțin 21 de articole semnate de patru dintre acești autori fictivi. Deși publicația nu a răspuns solicitărilor de comentarii, paginile autorilor respectivi au fost în cele din urmă șterse. Daily Kos a transmis că secțiunea comunitară a site-ului, unde a postat unul dintre acești autori falși, este separată de articolele echipei editoriale și că oricine se poate înscrie pentru a posta, fără o verificare prealabilă a conținutului, deși există reguli care interzic pretendarea unei alte identități. Culmea ironiei: postările rămân în continuare online.
De ce au fost prinși
Dar cum au ajuns acești operativi să fie descoperiți? Răspunsul e aproape ridicol de simplu: tocmai pentru că au folosit ChatGPT. Așa cum explică Darren Linvill, co-director al Watt Family Innovation Center Media Forensics Hub de la Universitatea Clemson, „acești subordonați ruși încercau să folosească AI pentru a-și face treaba mai repede, în același mod în care mulți dintre noi folosim AI, doar că în cazul lor asta i-a ajutat să fie prinși".
În cazul iranienilor, AI-ul a fost și mai util: le-a permis să producă un limbaj care părea autentic, ceea ce le-a crescut șansele de a fi publicate de outlet-uri legitime. „AI-ul a fost valoros pentru ei dincolo de simplul fapt că le-a scurtat munca. I-a ajutat să creeze un limbaj care arăta, se simțea și se citea autentic, până în punctul în care era publicat de publicații legitime. Și cred că acum câțiva ani, o operațiune iraniană de acest fel s-ar fi descurcat mult mai greu", a adăugat Linvill.
OpenAI a investigat impactul diferitelor campanii menționate în rapoartele generate cu AI și a constatat că acele campanii care s-au concentrat pe plasarea de narațiuni false în media consacrată au reușit să atingă un public mult mai larg decât cele care s-au bazat exclusiv pe conturi false de social media.
De ce este important:
Acest caz demonstrează câteva lucruri esențiale pentru viitorul digital. În primul rând, inteligența artificială a devenit un instrument preferat al actorilor statali care desfășoară operațiuni de influență, indiferent dacă vorbim de Rusia, Iran sau alte regimuri. În al doilea rând, tehnologia care părea inofensivă, un simplu chatbot conversațional, poate deveni o armă în mâinile celor care vor să manipuleze opinia publică, mai ales dacă publicațiile legitime nu verifică cu suficientă rigurozitate identitatea autorilor. În al treilea rând, chiar și atunci când operativii încearcă să-și ascundă urmele, utilizarea AI-ului lasă amprente detectabile, ceea ce face ca această tehnologie să fie în același timp o armă și o vulnerabilitate pentru cei care o folosesc în scopuri de propagandă. Pe termen lung, aceste incidente ridică semne de întrebare serioase despre cât de pregătite sunt redacțiile din întreaga lume să verifice sursele și identitatea autorilor, într-o eră în care AI-ul poate produce conținut aproape imposibil de distins de cel uman.
