Pentru cei trei vorbitori, preocuparea centrală a fost evitarea situației în care un pumn de companii mari controlează ritmul progresului. Când doar câteva companii controlează accesul la o tehnologie, așa cum fac Apple și Google cu sistemele de operare mobile, inovația poate încetini, iar companiile care controlează platformele pot influența ceea ce se construiește pe ele. Andrew Ng a spus că se teme de o dinamică similară în AI. „Nu vreau să existe gardieni”, a declarat Ng. „Asta limitează modul în care toți putem accesa AI.” Companiile au un stimulent să își protejeze avantajele competitive, inclusiv prin influențarea regulilor care guvernează industria. Acest lucru ar putea crea o dinamică în care doar cele mai mari și mai bine finanțate firme au resursele necesare pentru a construi cele mai avansate sisteme de AI.
Soluția lui Ng a fost menținerea mai multor furnizori, cu modele și companii care concurează, mai degrabă decât permiterea unui număr mic de jucători să domine domeniul. „Dacă ar fi să dau o singură rețetă, ar fi să promovez deschiderea”, a spus Ng, „pentru că AI este o tehnologie uimitoare și vreau să fie în mâinile tuturor.”
Dar nu toți au fost de acord că modelele cu greutăți deschise ar ajuta la păstrarea acestei stări de fapt. Hinton, în special, a făcut o distincție între software-ul open source, care pune codul la dispoziție pentru inspecție și modificare, și modelele cu greutăți deschise, care eliberează parametrii unui model AI antrenat publicului. „Open source este minunat. Arăți oamenilor codul, și mulți oameni se uită la liniile de cod și spun: „Oh, există o eroare.” Greutățile deschise înseamnă că antrenezi un model mare și apoi dai oamenilor greutățile. Este foarte diferit”, a spus Hinton. „Am fost împotriva greutăților deschise pentru că face foarte ușor pentru oameni să ia aceste modele fundamentale mari, care sunt foarte scumpe de antrenat, și pentru mult mai puțini bani să le antreneze să facă lucruri rele, cum ar fi atacuri cibernetice.”
Dar, indiferent de rezervele sale, Hinton a recunoscut că modelele cu greutăți deschise sunt deja o componentă permanentă a AI. „Cred că această bătălie a fost pierdută. Acum avem modele cu greutăți deschise, așa că bariera pentru ca mulți oameni să obțină aceste modele mari, care era costul antrenării modelelor fundamentale, a dispărut. Este prea târziu.”
Totuși, acceptarea realității nu însemna ignorarea riscurilor. Poziția lui Hinton a fost clară: AI va continua să avanseze, iar el a considerat că acest lucru este în mare parte un lucru bun. A spus că va stimula productivitatea și va îmbunătăți educația și asistența medicală. „Îngrijorarea cu privire la posibilele efecte negative ale AI și la lucrurile pe care ființele inteligente le-ar putea face atunci când sunt mai deștepte decât noi. Nu cred că este nedrept. Cred că este nedrept să etichetezi pe oricine gândește astfel drept un semănător de frică”, a adăugat Hinton.
Ng a avut o viziune diferită. Întrebarea, a argumentat el, nu era dacă modelele deschise sunt riscante, ci cine controlează accesul și cine va câștiga piața. Oricine construiește modelul mai ieftin va avea avantajul. Dacă modelele cu greutăți deschise ale Chinei ar câștiga adoptare pe scară largă în Asia, Africa și/sau lumea în curs de dezvoltare, a avertizat el, ele ar putea influența modul în care miliarde de oameni întâlnesc idei despre democrație, libertate și drepturile omului. „Un lucru pe care sper să îl facem este să încurajăm competitivitatea americană și AI open source. Se pare că AI este o sursă imensă de putere soft. Poți vedea modul în care modelul Chinei are o influență extraordinară.”
Fei-Fei Li, cunoscută pentru munca sa în viziune computerizată și pentru inițiativele de AI centrat pe om, a subliniat importanța colaborării și a transparenței în cercetare. Ea a atras atenția asupra faptului că deschiderea nu înseamnă doar distribuirea modelelor, ci și crearea unui ecosistem în care cercetătorii, reglementatorii și publicul pot înțelege și evalua tehnologia. „Trebuie să găsim un echilibru între inovație și responsabilitate”, a spus Li. „Deschiderea ne permite să construim încredere și să ne asigurăm că beneficiile AI sunt distribuite echitabil.”
Dezbaterea dintre cei trei reflectă o tensiune mai largă din industrie. Pe de o parte, există îngrijorarea legitimă că modelele deschise pot fi folosite în scopuri rău intenționate, cum ar fi generarea de dezinformare sau atacuri cibernetice. Pe de altă parte, restricționarea accesului ar putea duce la o concentrare a puterii în mâinile câtorva corporații, ceea ce ar putea sufoca inovația și ar limita beneficiile sociale ale AI.
Hinton, deși recunoaște că lupta împotriva greutăților deschise este pierdută, rămâne precaut. El sugerează că, în loc să încercăm să interzicem modelele deschise, ar trebui să ne concentrăm pe dezvoltarea unor mecanisme de siguranță și pe reglementări care să atenueze riscurile. Ng, pe de altă parte, vede deschiderea ca pe o modalitate de a asigura competitivitatea și de a preveni dominația unui singur jucător. Li pledează pentru o abordare echilibrată, care să combine inovația cu responsabilitatea.
În cele din urmă, toți trei sunt de acord că AI are un potențial imens de a transforma societatea în bine. Întrebarea este cum gestionăm tranziția. Deschiderea, în ciuda riscurilor sale, pare să fie văzută de acești pionieri ca un principiu fundamental care ar trebui păstrat, chiar dacă înseamnă acceptarea unor compromisuri. După cum a spus Ng, „AI este o tehnologie uimitoare și vreau să fie în mâinile tuturor.” Această filozofie, deși nu este lipsită de provocări, ar putea fi cheia pentru a ne asigura că beneficiile inteligenței artificiale sunt resimțite la scară globală, nu doar de un grup restrâns de privilegiați.
De ce este important:
Această dezbatere nu este doar una tehnică, ci are implicații profunde pentru viitorul societății. Modul în care alegem să gestionăm deschiderea în AI va determina cine deține puterea de a modela tehnologia și, implicit, cine beneficiază de ea. Într-o lume în care AI devine din ce în ce mai integrată în viața de zi cu zi, deciziile luate astăzi de cercetători, companii și guverne vor avea consecințe de durată. Pledoaria pentru deschidere, făcută de unii dintre cei mai influenți oameni din domeniu, subliniază necesitatea de a găsi un echilibru între inovație și siguranță, între competiție și colaborare. Este o discuție care ne privește pe toți, pentru că viitorul AI este, în esență, viitorul nostru comun.
