„Mulți oameni văd acest lucru ca fiind similar cu un program software chinezesc. Adică, a fost codat cu intențiile x, y, z”, care ar putea fi comandate de un actor rău intenționat, a spus el. „Aceasta nu este fundamental modul în care sunt antrenate aceste modele. Nu există nicio modalitate ca Arcee, sau Alibaba, să facă un model, să-l ruleze cineva în propriul mediu și să avem vreun acces la el”, a explicat el. Deși majoritatea acestor modele sunt cunoscute ca „greutăți deschise” și nu sunt cu adevărat software open-source complet, codul sursă (partea care va rula efectiv pe servere), dacă este descărcat de pe site-uri open-source precum Hugging Face, este în mare parte vizibil și revizuibil. (Ceea ce nu este disponibil sunt metodele și datele folosite pentru antrenarea modelelor.) Organizațiile mari ar trebui să supună orice nucleu de model proceselor lor de testare și inspecție de securitate și, de asemenea, vor post-antrena adesea modelele pentru utilizările lor specifice și pot examina domenii precum părtinirea, toxicitatea, halucinațiile, sensibilitatea la anumite subiecte. Așadar, ele lucrează cu modelele, le optimizează și le înțeleg înainte ca oamenii să înceapă să le trimită prompturi.
Ar putea un model folosit pentru codare să introducă cumva uși din spate rău intenționate în codul pe care îl scrie? Din nou, deși teoretic este posibil, ar necesita acrobații pentru a fi realizat. „Nu există niciun motiv pentru care un actor suficient de sofisticat să nu poată antrena un model pentru a fi un model de codare absolut uimitor în orice circumstanță, dar atunci când i se prezintă un anumit tip de bază de cod... o antrenare ascunsă ar intra în acțiune”, a postulat Atkins, care își petrece zilele antrenând modele. Dar el adaugă: „Nu știu cum ai face asta.” Deoarece modelele de limbaj mari sunt prin natură creative, șansele de a obține un model contemporan care să scuipe malware ca răspuns la o furtună perfectă preplanificată de context și prompt sunt extrem de mici. Și mai mici sunt șansele ca o întreprindere să folosească apoi acel cod. S-ar putea întâmpla în viitor? Este greu de spus. Dar întreprinderile își construiesc, de asemenea, aplicațiile AI pentru a fi agnostice față de model și pentru a utiliza mai multe modele. Așadar, chiar dacă modelele chinezești sunt cele mai bune pentru preț astăzi, întreprinderile nu vor fi blocate să le folosească pentru totdeauna.
„Cred că, în loc ca discuția să fie despre cum să interzicem modelele chinezești, ar trebui să fie despre cum să promovăm un ecosistem deschis bun aici, în SUA”, spune Atkins. Arcee câștigă, de asemenea, avantaje de pe urma modelelor chinezești. Deoarece sunt deschise, startup-ul „beneficiază de faptul că acele modele sunt bune, pentru că putem învăța ce au făcut ele. Putem construi pe baza lor. Apoi ele pot învăța ce facem noi”, spune el. „Avem un respect enorm pentru oamenii care construiesc acele modele, cercetătorii individuali.” În cele din urmă, modul de a concura cu modelele chinezești „este să lansăm un model care este mai bun”, spune Atkins.
De ce este important:
Această poziție a Arcee este crucială într-un moment în care tensiunile geopolitice se reflectă în tehnologie. În loc să se cedeze panicii și să se ceară interdicții, se subliniază importanța colaborării deschise și a inovației. Modelele open-source, indiferent de origine, pot fi auditate și securizate de comunitate. Interzicerea lor ar putea încetini progresul și ar putea fragmenta ecosistemul AI, în timp ce o abordare bazată pe competiție loială și transparență poate aduce beneficii tuturor. În plus, întreprinderile trebuie să înțeleagă că riscurile reale vin din modul în care sunt implementate și gestionate modelele, nu din originea lor geografică.
