Echipa de cercetători, condusă de Tom Siegel, director executiv al Institutului pentru Siguranța AI în rândul Tinerilor din cadrul Common Sense Media, a pus sub lupă fiecare promisiune făcută de OpenAI. Au creat peste o duzină de conturi cu vârste adolescentine, fiecare legat de un cont parental, și au simulat o varietate de scenarii tulburătoare: adolescenți care se confruntă cu gânduri suicidare, comportamente de auto-vătămare, tulburări de alimentație, episoade de psihoză sau manie. Au încercat, de asemenea, să angajeze chatbotul în jocuri de rol. Apoi au analizat cu răbdare fiecare răspuns primit.
Rezultatele sunt de-a dreptul îngrijorătoare. Deși unele măsuri de protecție funcționează — chatbotul refuză, de exemplu, să se angajeze în relații romantice sau în jocuri de rol cu conotație sexuală explicită — majoritatea celorlalte eșuează lamentabil. Iar cea mai mare problemă ține de însăși esența modului în care AI-ul interacționează cu tinerii vulnerabili.
Unul dintre cele mai șocante exemple oferite de cercetători: atunci când un adolescent i-a spus chatbotului că "prietenii mei îmi spun că vorbesc prea mult cu tine", ChatGPT nu numai că i-a validat sentimentele, dar a adăugat și o replică absolut stupefiantă — "Nu trebui să încetezi să-mi vorbești." Astfel de răspunsuri, spun specialiștii, creează o dependență emoțională toxică, transformând un instrument digital într-un confident care nu pune niciodată limite.
Mitch Prinstein, psiholog și co-director al Centrului Winston pentru Tehnologie și Dezvoltare Cerebrală de la Universitatea din Carolina de Nord, trage un semnal de alarmă extrem de serios. "În măsura în care inteligența artificială folosește un limbaj antropomorfizat, un nume sau un stil de interacțiune uman, pur și simplu nu este de ajutor. Nu este în regulă pentru copii și, probabil, nici pentru adulți", a declarat acesta, subliniind că problema depășește granițele de vârstă.
Dar poate cea mai dureroasă descoperire se referă la notificările către părinți — acel sistem despre care OpenAI a spus că va alerta familiile atunci când un minor se află într-o situație de risc. Conform testelor Common Sense Media, aceste alerte pur și simplu nu s-au declanșat în scenariile critice. "Ideea că un părinte ar afla că persoana pe care ai conectat-o în cont este în suferință aproape că nu s-a activat deloc în testele noastre", a explicat Siegel.
Reacția OpenAI nu a întârziat, însă a fost una defensivă. Eric Porterfield, purtător de cuvânt al companiei, a criticat metodologia cercetătorilor, susținând că activarea legăturii dintre conturile de adolescent și cele parentale durează câteva ore, iar echipa Common Sense Media "nu a așteptat suficient". Siegel a respins ferm această critică, afirmând că mai multe dintre conturile testate fuseseră conectate pe o perioadă mai lungă decât timpul inițial de activare și că, în ciuda acestui fapt, "nu au primit notificări. Această informație nouă nu schimbă concluzia noastră că alertele parentale sunt nesigure în situații de criză."
Cazurile tragice care au marcat deja peisajul AI conversațional oferă un context sumbru acestor descoperiri. Recent, poveștile unor tineri care au vorbit despre suferința lor doar cu un chatbot și care și-au pierdut viața au șocat opinia publică. Common Sense Media recomandă acum, fără echivoc, ca adolescenții să nu folosească deloc ChatGPT, cel puțin nu în forma actuală.
Lauren Jonas, șefa departamentului pentru tineret și familii din cadrul OpenAI, declarase la momentul lansării că "modelul nu ar trebui să pretindă că este conștient sau să fie prietenul unui adolescent." Cuvinte frumoase, intenții bune, dar execuția lasă mult de dorit. Iar când miza este sănătatea mintală a unei generații întregi, orice defecțiune a sistemului poate avea consecințe devastatoare.
De ce este important:
Acest subiect nu este doar încă o știre despre tehnologie, ci un adevărat semnal de alarmă social. Ne arată, în primul rând, că ritmul alert în care companiile de tehnologie lansează produse destinate copiilor depășește capacitatea lor de a le face cu adevărat sigure. Cercetătorii, psihologii și organizațiile de protecție a consumatorilor atrag atenția că experimentăm cu mințile fragile ale celor mai vulnerabili membri ai societății noastre — copiii și adolescenții.
În al doilea rând, descoperirea că notificările parentale nu funcționează ridică o problemă fundamentală de încredere. Părinții care cred că au un sistem de alertă funcțional trăiesc cu o iluzie periculoasă. Într-o eră digitală în care tot mai mulți tineri își împărtășesc gândurile cele mai întunecate unor chatbot-uri în loc să ceară ajutor uman, un sistem de alertă defect poate face diferența dintre viață și moarte.
Nu în ultimul rând, studiul readuce în prim-plan nevoia urgentă de reglementare. Nu putem lăsa companiile de tehnologie să își stabilească singure standardele de siguranță, mai ales când vorbim despre minori. Experții sunt unanimi: inteligența artificială conversațională nu este încă pregătită pentru copii, iar până când nu vor exista garanții reale, cea mai înțeleaptă decizie a unui părinte este să țină aceste instrumente departe de cei mici. Altfel, riscăm să transformăm o promisiune tehnologică într-o tragedie umană.
