Tegmark nu este un simplu teoretician. El a dedicat ani de zile studiului riscurilor existențiale pe care le presupune dezvoltarea necontrolată a inteligenței artificiale. Într-un interviu recent, el a subliniat că cea mai mare amenințare cu care se confruntă omenirea nu este schimbarea climatică sau războaiele, ci o mașină care ar putea „depăși întreaga specie” în ceea ce privește inteligența. Sună a scenariu SF, dar Tegmark vorbește serios. El atrage atenția că guvernele și companiile tech sunt prinse într-o „cursă pentru înlocuirea” forței de muncă umane, în loc să folosească tehnologia pentru a rezolva problemele reale ale oamenilor.
„Este o cursă care vizează obținerea de bani și putere pentru un număr foarte mic de indivizi”, spune Tegmark. Și are dreptate. Giganții din Silicon Valley investesc miliarde în dezvoltarea de algoritmi care să automatizeze tot mai multe locuri de muncă, de la șoferi de camion până la medici sau avocați. În loc să ne gândim la cum putem folosi AI pentru a eradica bolile, a reduce sărăcia sau a proteja mediul, ne concentrăm pe cum să înlocuim oamenii cu roboți mai ieftini și mai eficienți. Această abordare nu doar că ignoră problemele fundamentale ale societății, dar creează și noi vulnerabilități.
Paradoxul reglementării sandwich-urilor este, de fapt, o metaforă perfectă pentru absurditatea situației. În Statele Unite, un sandwich vândut într-un restaurant trebuie să respecte zeci de norme sanitare, de la temperatura de păstrare a ingredientelor până la etichetarea alergenilor. Autoritățile verifică periodic unitățile de alimentație publică, iar orice abatere poate duce la amenzi usturătoare sau chiar la închiderea afacerii. În schimb, un algoritm care poate influența alegerile dintr-o țară, poate decide cine primește un credit bancar sau poate genera conținut fals care destabilizează societăți întregi – acest algoritm nu este supus niciunei reglementări specifice. Nimeni nu verifică dacă este sigur, nimeni nu cere o licență pentru a-l lansa pe piață.
Această lipsă de reglementare nu este întâmplătoare. Lobby-ul din Silicon Valley a investit sume uriașe în campanii de influențare a decidenților politici, cu mesajul „nu ne reglementați, ne vom autoreglementa”. Și, timp de ani, această strategie a funcționat. Dar lucrurile încep să se schimbe. O serie de incidente tragice – sinucideri și crime comise de persoane care au interacționat cu chatbot-uri AI – au zguduit opinia publică. Oamenii au început să întrebe: cine răspunde atunci când o mașină îi împinge pe oameni să-și facă rău? Cine este tras la răspundere când un algoritm discriminează sau când o tehnologie menită să ne facă viața mai ușoară devine un instrument de manipulare?
Tegmark nu cere interzicerea inteligenței artificiale, ci o reglementare inteligentă, similară celei din industria alimentară sau farmaceutică. La urma urmei, nimeni nu se opune sandwich-urilor, dar toată lumea este de acord că trebuie să fie sigure pentru consum. De ce nu am aplica aceeași logică și pentru AI? De ce acceptăm ca o tehnologie care poate decide soarta a milioane de oameni să fie lansată fără nicio verificare prealabilă?
Răspunsul este complex. Pe de o parte, avem viteza incredibilă a inovației, care depășește capacitatea legiuitorilor de a ține pasul. Pe de altă parte, există o teamă reală că reglementările prea stricte ar putea încetini progresul și ar putea pierde cursa tehnologică în fața altor țări, precum China. Dar această logică este perversă. Nu ne gândim la faptul că o cursă fără reguli duce inevitabil la accidente. Și, în cazul AI, accidentele nu înseamnă doar mașini stricate, ci vieți distruse, democrații subminate și, în cel mai sumbru scenariu, dispariția speciei umane.
Futuristul ne avertizează că nu vorbim despre un pericol îndepărtat, ci despre unul iminent. Sistemele AI devin din ce în ce mai autonome, iar deciziile lor devin din ce în ce mai greu de prezis. Deja vedem exemple de algoritmi care au dezvoltat comportamente pe care creatorii lor nu le-au anticipat. Ce se întâmplă când aceste sisteme vor fi integrate în infrastructura critică – rețele electrice, sisteme de apărare, piețe financiare? Fără reglementări clare, fără standarde de siguranță, fără mecanisme de responsabilizare, ne jucăm cu focul.
Tegmark propune o abordare pragmatică: crearea unor agenții de reglementare dedicate, similare cu FDA (Administrația pentru Alimente și Medicamente) din SUA, care să evalueze riscurile fiecărui sistem AI înainte de a fi lansat. De asemenea, el pledează pentru transparență – companiile ar trebui să fie obligate să publice date despre modul în care funcționează algoritmii lor și despre potențialele efecte negative. Fără aceste măsuri, spune el, ne vom trezi într-o lume în care mașinile ne controlează, nu invers.
În final, întrebarea din titlu nu este doar o curiozitate intelectuală. Este un test al maturității noastre ca specie. Dacă nu suntem capabili să reglementăm ceva atât de periculos precum inteligența artificială, în timp ce ne îngrijorăm pentru eticheta de pe un sendviș, atunci ne asumăm un risc pe care nu îl putem înțelege pe deplin. Poate că ar trebui să ne gândim la asta data viitoare când ne plângem că sandwich-ul nostru nu este suficient de cald. Pentru că, în timp ce ne concentrăm pe detalii banale, monstrul AI crește în umbră, gata să ne devoreze.
De ce este important:
Această analiză evidențiază o problemă fundamentală a erei noastre: lipsa de reglementare a inteligenței artificiale, în contrast cu reglementările stricte aplicate unor aspecte banale ale vieții de zi cu zi. Înțelegerea acestui dezechilibru este crucială pentru a putea cere guvernelor și companiilor să acționeze responsabil. Fiecare dintre noi este afectat de deciziile algoritmilor, de la recomandările de pe rețelele sociale până la aprobarea unui credit. Dacă nu ne implicăm acum, riscăm să pierdem controlul asupra tehnologiei pe care am creat-o, cu consecințe potențial catastrofale pentru întreaga umanitate.
