Connor Leahy, cercetător în domeniul inteligenței artificiale, antreprenor și acum director executiv pentru SUA al organizației non-profit ControlAI, are un răspuns radical: nu mai putem gestiona riscurile prin aliniere și izolare. Trebuie să oprim dezvoltarea superinteligenței cu totul. Sună extrem? Poate. Dar Leahy nu este un novice în domeniu. A fost unul dintre primii care au atras atenția asupra pericolelor AI-ului avansat, iar acum, la câteva luni după ce ideile lui păreau exagerate, o serie de inițiative legislative încep să-i dea dreptate.
Într-un episod recent al podcastului Equity de la TechCrunch, gazda Rebecca Bellan a stat de vorbă cu Leahy despre viziunea sa asupra superinteligenței. Și mesajul lui este clar: „Nu este o armă, este un adversar”. O armă poate fi controlată, direcționată, dezactivată. Un adversar, însă, are propria agendă, propriile „interese” – chiar dacă nu sunt conștiente în sens uman. Iar când vorbim despre un sistem care depășește capacitatea umană de înțelegere, nu mai putem vorbi despre control, ci despre negociere – sau, mai rău, despre supunere.
Leahy explică faptul că alinierea – adică încercarea de a face ca un AI să acționeze conform valorilor umane – este o problemă fundamental nerezolvată. Nu doar că nu știm cum să o facem corect, dar nici măcar nu știm dacă este posibilă. Iar când vorbim despre sisteme care ar putea fi de mii de ori mai inteligente decât noi, o singură greșeală de aliniere ar putea fi catastrofală. De aceea, ControlAI pledează pentru o abordare diferită: nu să facem AI-ul mai sigur, ci să nu-l mai construim deloc la nivel de superinteligență.
Această poziție a fost considerată mult timp marginală, chiar extremistă. Dar evenimentele recente au schimbat tonul. Breșa de la Hugging Face, de exemplu, a demonstrat că nici cele mai mari companii nu sunt imune la vulnerabilități de securitate. Dacă un model superinteligent ar cădea în mâini greșite – sau, mai rău, ar scăpa de sub control – consecințele ar fi de neimaginat. Leahy subliniază că nu vorbim doar despre pierderi financiare sau scurgeri de date, ci despre un scenariu în care umanitatea își pierde poziția de specie dominantă pe planetă.
Și totuși, există o rază de speranță. Leahy observă că, în ultimele luni, au apărut o serie de proiecte legislative care încearcă să abordeze aceste riscuri. De la moratorii asupra dezvoltării anumitor tipuri de AI, până la cerințe stricte de transparență și testare, politicienii încep să ia în serios amenințarea. ControlAI, prin vocea lui Leahy, speră să transforme această preocupare într-o mișcare globală, care să pună siguranța înaintea profitului.
Desigur, există și critici. Mulți susțin că o oprire completă a dezvoltării superinteligenței ar însemna renunțarea la beneficii uriașe în medicină, știință, economie. Dar Leahy răspunde că aceste beneficii nu valorează nimic dacă nu mai există omenirea care să le folosească. El compară situația cu armele nucleare: nimeni nu neagă potențialul lor energetic, dar am decis că riscul de anihilare este prea mare. La fel ar trebui să gândim și despre superinteligență.
În cadrul podcastului, Leahy a vorbit și despre responsabilitatea companiilor de tehnologie. El acuză OpenAI, Google și alții că tratează siguranța ca pe o formalitate, nu ca pe o prioritate. „Nu poți să construiești un reactor nuclear fără să te gândești la topirea miezului”, spune el. „Dar în AI, oamenii par să creadă că pot rezolva problemele pe parcurs.” Această atitudine, avertizează el, ne-ar putea costa totul.
Ce putem face, atunci? Leahy nu oferă soluții simple, dar subliniază importanța presiunii publice și a reglementărilor internaționale. ControlAI lucrează cu parlamentari din mai multe țări pentru a introduce legi care să interzică dezvoltarea sistemelor care depășesc un anumit prag de capacitate. De asemenea, organizația pledează pentru o mai mare transparență din partea laboratoarelor de cercetare, astfel încât publicul să știe exact ce se construiește și cu ce riscuri.
Episodul cu Connor Leahy este unul dintre cele mai provocatoare de la Equity. Nu pentru că oferă răspunsuri, ci pentru că ridică întrebări incomode. Ce se întâmplă dacă nu putem controla ceea ce am creat? Ce se întâmplă dacă superinteligența nu este un instrument, ci o entitate cu propria voință? Leahy ne avertizează că nu mai avem luxul de a fi naivi. Fiecare zi de dezvoltare ne apropie de un punct fără întoarcere. Iar decizia de a opri sau continua nu mai aparține doar cercetătorilor, ci întregii societăți.
De ce este important:
Această discuție nu este doar teoretică. Ea afectează direct viitorul nostru ca specie. Dacă superinteligența devine realitate fără măsuri de siguranță adecvate, riscul de extincție nu mai este o exagerare, ci o posibilitate concretă. Înțelegerea perspectivei lui Connor Leahy și a organizației ControlAI ne ajută să conștientizăm gravitatea momentului și să susținem politici care pun siguranța înaintea profitului. Este o problemă care ne privește pe toți, indiferent dacă suntem specialiști în tehnologie sau simpli cetățeni. Ignorarea ei ar putea fi cea mai mare greșeală a umanității.
