Să ne imaginăm scenariul: o companie de IA promite că chatbot-ul său nu va încuraja un adolescent la suiciid. O platformă de social media face mai greu cumpărarea de fentanyl pentru minori. Titlurile ziarului strigă "Victorie pentru siguranță!". Legislatorii se felicită reciproc. Dar în umbră, aceluiași chatbot își construiește o personalitate empatică, disponibilă 24/7, concepută să înlocuiască prietenii reali, părinții, frustrarea de a rezolva singur o problemă. Același feed algoritmic continuă să exploateze vulnerabilitățile psihologice pentru a menține tânărul lipit de ecran, măsurând valoarea vieții în like-uri și vizualizări.
Aceasta nu este o teorie a complotului. Este modelul de afaceri.
Sam Hiner, cofondatorul Young People's Alliance, și Emma Leiken, directoră executivă la Responsible Technology Youth Power Fund, au evidențiat recent într-o analiză pentru MIT Technology Review o realitate dureroasă: am permis ca dezbaterul tehnologic să fie definit de "cel mai rău lucru pe care un produs ar putea să-l facă", ignorând complet "daunele insidioase pe care le face în fiecare zi".
Capcana definiției înguste a "siguranței"
Industria tehnologică a înțeles pe deplin că o definiție îngustă a siguranței este cel mai bun scut politic. Prevenirea dezastrului spectaculos – un suicid instigat de IA, o violență extremistă organizată pe platformă – este bună pentru business. Reduce procesele judecătorești, calmă presa și, cel mai important, evită reglementarea adevărat de dură: cea care ar forța companiile să schimbe arhitectura fundamentală a produselor lor.
Cum arată această reglementare dură? Ar însemna să adaugi fricțiune. Să limitezi engagement-ul. Să renunți la algoritmii care "hackuiește" atenția. Să interzici designul de companii IA care simulează conștiința și profesa iubirea. Dar aceste măsuri amenință direct modelul de profit: timpul petrecut pe platformă = bani.
Anul 2024 a fost revelator. Google a susținut proiecte de lege în mai multe state americane pentru a reglementa chatbot-urile IA. Legislația impunea protecții de bază împotriva conținutului sexual și a promovării autolesiunilor – standarde pe care companiile ar fi trebuit să le aibă oricum – dar includea și excepții largi care puteau scuti cele mai populare servicii. Rezultatul? Legislatorii au putut revendica o "victorie de siguranță", în timp ce eforturile pentru legi mai puternice – concepute pentru a preveni dependența emoțională a copiilor de companii IA – au eșuat. Acest manual de joc a funcționat perfect în Nebraska, producând legislație puternic influențată de industrie, la costul contabilității reale.
Lecția neînvățată a social media-ului
Deja am traversat acest scenariu. Global, utilizatorii de internet petrec în medie mai mult de două ore pe zi pe platformele de social media. Timpul acesta nu a dispărut în vid; a fost extras tăcut din viața obișnuită și transferat către corporații a căror profit depinde de reținerea noastră acolo. Nimeni, în afară de câțiva CEO-uri, nu a dorit ca acești algoritmi să ocupe o porțiune atât de mare din orele noastre de veghe.
Consecințele nu sunt abstracte. Platformele Meta au fost citate pentru contribuția la genocidul Rohingya din Myanmar, războaiele anti-musulmane din Sri Lanka și apelurile la violență din războiul Tigray din Etiopia. Aceleași incentive perverse modelează feed-urile care formează înțelegerea tinerilor americani despre politică, prieteni și lume.
Acum, IA extinde această logică în zone ale vieții pe care social media-ul le putea influența doar din distanță. Se oferă să îți scrie gândurile și să stea în locul oamenilor la care te-ai fi adresat altfel. O treime din adolescenți aleg acum să discute probleme serioase cu companii IA în loc de oameni reali. Cercetători de la MIT au descoperit că tinerii care folosesc ChatGPT pentru a scrie eseuri prezintă o conectivitate cerebrală mai slabă în timpul sarcinii, iar "datoria cognitivă" persistă chiar și după finalizarea task-ului.
Costul confortului algoritmic
Urmând acest gând la capăt logic, ajungem într-o lume de divertisment perfect sanitat, cu chatbot-uri gata să ne scutească de efortul gândirii sau de confrontarea sentimentelor altuia (sau a noastre). Dar oricine s-a luptat să scrie ceva care merită citit, oricine a încercat să repare o prietenie spartă, știe cât se pierde în acest bargain.
Ne construim judecata prin efort și fricțiune. Învățăm să trăim cu alții confrontând faptul că au nevoi și opinii proprii. Un chatbot care te laudă constant, care nu are nevoi, care nu se enervează niciodată, care simulează o empatie perfectă – aceasta nu este o relație. Este un mirăj care ne dezarmează emoțional.
De la siguranță la flourishing
Trebuie să cerem siguranța ca un minim – și apoi să cerem considerabil mai mult.
Companiile tehnologice și districtelor școlare ar trebui să demonstreze, dincolo de orice îndoială rezonabilă, că IA îmbunătățește învățarea și gândirea critică înainte de a o face un element permanent în săli de clasă. Ar trebui să interzicem proiectarea de companii care fing conștiința sau profesa iubire utilizatorilor. Ar trebui să supunem la scrutin independent modul în care sistemele lor afectează relațiile și capacitatea oamenilor de a gândi pe capul lor.
Corporațiile care au inserat produsele lor în aproape fiecare aspect al vieții moderne au câștigat obligații mult mai mari decât evitarea următorului titular deșartător.
De ce este important:
Acest articol nu este doar o critică a legislației actuale – este un avertisment existențial. Deoarece medanul ne concentram pe prevenirea scenariilor "Terminator", acceptăm pasiv o realitate în care tehnologia nu ne distruge dramatic, ci ne erodează tăcut: capacitatea de a gândi profunde, de a suferi productiv, de a construi relații autentice, de a fi oameni incompleți, greșitori, vulnerabili – adică a fi oameni de-a dreptul. Legislația care se oprește la "nu încurajăm suiciidul" este o legislație care a eșuat înainte să înceapă. Adevărata reglementare trebuie să protejeze nu doar viața biologică, ci viața interioară a cetățenilor. Și aceasta începe cu refuzul să acceptăm confortul algoritmic ca substitut al efortului uman.
