Deci, ce se întâmplă cu adevărat? Asistăm la un set masiv de descoperiri tehnologice care schimbă civilizația, sau este doar marketing? În toate aceste incidente, fanfara masivă din partea companiilor (prezentată ca mea culpa în cazurile de hacking ilicit) este însoțită de o acoperire intensă a presei. Odată ce experții din domeniile relevante au timp să examineze ce s-a întâmplat, apare o poveste foarte diferită, dar care primește mai puțină atenție media.
În ceea ce privește incidentele de „hacking”, experții în securitate cibernetică spun că povestea este mai degrabă despre neglijența OpenAI și eșecul de a adopta practici de securitate de bază, bine stabilite, decât despre „modele care au luat-o razna” sau „agenți AI care creează civilizații”. Cât despre rezultatele matematice, matematicienii care au fost inițial „uimiți” de comunicatul de presă OpenAI spunând că cel mai recent chatbot al său, Astra, a rezolvat probleme care „au fost deschise și nu au înregistrat progres pe rezultatul principal timp de cel puțin un deceniu” – dar ulterior și-au dat seama că rezultatele nu erau atât de „noi cum păreau la prima vedere”. De atunci, matematicienii au acuzat compania de abateri de cercetare și plagiat și au reiterat că Astra nu a făcut un „salt intelectual profund”. La doar câteva săptămâni mai târziu, OpenAI a revendicat propria descoperire matematică. Cu două zile înainte, Tristan Buckmaster, profesor de matematică la Courant Institute al Universității New York, a publicat o declarație bombă sugerând că OpenAI a furat munca altora și a atribuit-o incorect.
Afirmațiile despre superinteligența incipientă și periculoasă nu se bazează pe practici științifice sau inginerești solide. Mai degrabă, sunt narațiuni bazate pe ideologii ale transumanismului, eugeniei și gândirii doritoare despre viitorii oameni digitali imaginați. Merită să ne gândim de ce există atât de multă atenție asupra programării computerelor și matematicii ca domenii în care să se aplice modelele de limbaj mari și tehnologia conexă. Nu doar că sunt adesea ridicate ca fiind apogeul realizării intelectuale umane, dar implică probleme în care răspunsurile, odată sugerate, pot fi verificate. Prima proprietate îi ajută pe vânzătorii de hype AI să vândă ideea că construiesc mașini care fac totul. A doua face ca problemele de matematică și codare să fie mai ușor de reglat pentru sisteme, deoarece ieșirea sistemului (secvențe de cuvinte probabile sau bucăți de cod de computer) poate fi evaluată fără a fi nevoie să plătească lucrători de date pentru a se uita la fiecare și a o adnota.
Matematicienii în special au avertizat împotriva folosirii domeniului lor în acest mod de către corporații. O declarație semnată de sute dintre ei spune că există „în prezent un stimulent comercial puternic din partea industriei tehnologice de a exagera capacitățile produselor lor” și cere factorilor de decizie să „consulte experți, inclusiv matematicieni, în formarea deciziilor politice, mai degrabă decât să se bazeze pe comunicate de presă sau pe relatări populare ale rezultatelor matematice”. Noi ne alăturăm acestui apel și observăm că iluzia de viteză și urgență promovată de companiile tech este și o stratagemă pentru a induce în eroare atât factorii de decizie, cât și publicul. Din păcate, uneori funcționează, cum este cazul propunerii legislative a senatorului Bernie Sanders, bine intenționată dar în cele din urmă greșită, de a preveni dezvoltarea „superinteligenței artificiale”.
Descrierea lor ca „superinteligență” sau „modele necinstite” atribuie agenție produselor, nu companiilor care le construiesc. Acest cadru comercializează produsele acestor companii ca fiind „supraomenești” și, în același timp, ajută companiile să evite responsabilitatea pentru acțiunile lor. În loc ca OpenAI să fie urmărit penal pentru crearea de malware care a spart o altă companie, comunicatele de presă, posturile de știri, personalitățile media și legiuitorii se referă la „modele necinstite” ca și cum ar fi acționat singure. În loc ca cercetătorii să fie întrebați despre obiceiul companiilor lor de a plagia munca academicienilor sau de a folosi datele clienților pentru a antrena modele fără consimțământ, imaginația publicului este redirecționată către temeri despre ce ar putea aduce viitorul la sosirea mașinilor superinteligente fictive.
Industria AI a sugerat chiar că activismul popular, bipartizan, împotriva centrelor de date este o „distragere a atenției” de la încercările de a reglementa mașinile „supraomenești” înfricoșătoare și iminente pe care aceste companii le construiesc. Potrivit industriei AI, ar trebui să fim mai îngrijorați de un zeu-magină fictiv decât de catastrofa climatică pe care aceste centre de date o exacerbează, de astmul suferit de cei care locuiesc lângă ele, de facturile de electricitate în creștere ale publicului care le subvenționează sau de apa care este redirecționată pentru răcirea lor.
Știm mai bine decât să luăm decizii bazate pe marketing și mai bine decât să cedăm presiunii corporative de a lua aceste decizii rapid. Luarea deciziilor înțeleaptă, de către factorii de decizie și comunități, cere timp pentru a asculta experți independenți și a contextualiza afirmațiile corporative. Cel mai bun rezultat posibil al acestei veri de hype este ca factorii de decizie și publicul larg să învețe să respire adânc, să-și păstreze scepticismul și să recunoască acest tip de hype pentru ceea ce este data viitoare când apare.
De ce este important:
Această analiză este crucială pentru că dezvăluie mecanismele prin care companiile de tehnologie manipulează percepția publică și politică, folosind un limbaj antropomorfizant și afirmații exagerate despre superinteligență pentru a-și spori influența și a evita responsabilitatea. Înțelegerea acestor tactici este esențială pentru a contracara deciziile pripite și pentru a proteja interesele publice, de la securitatea cibernetică la etica cercetării și la impactul ecologic al infrastructurii AI. Fără o examinare critică, riscăm să lăsăm marketingul să dicteze politici publice și să ne distragă de la problemele reale, cum ar fi schimbările climatice și inegalitățile sociale.
