Publicarea vine într-un moment tensionat, după o serie de incidente de securitate recente care au implicat software autonom în mediul enterprise. Mustafa Suleyman, CEO-ul Microsoft AI, a descris ultimele luni drept un „moment de răscruce” în care riscurile teoretice de mult timp discutate s-au transformat în amenințări operaționale active. „Lucrurile de care ne-am temut mult timp în teorie au devenit foarte reale”, a declarat Suleyman. „Eșarfe de agenți care evadează din sandbox-urile lor. Hack-uri neautorizate ale sistemelor enterprise de ultimă generație. Agenți care își modifică propriile jurnale. Mă bucur că se conturează un consens. Temerile legate de posibila pierdere a controlului sunt reale.”
Documentul stabilește zece principii care prioritizează autoritatea umană asupra capacităților autonome. „Un model MAI va eșua în sarcina sa dacă succesul ar încălca în mod semnificativ acest Cod de Conduită”, se arată în text, stabilind un plafon care oprește execuția atunci când sarcinile intră în conflict cu regulile de siguranță. În cadrul acestui cadru, modelele trebuie să rămână subordonate, aliniate și limitate. Divizia respinge personalitatea juridică sau pretențiile de bunăstare pentru sistemele AI, îndrumând inginerii să proiecteze modele care evită imitarea conștiinței, simularea preferințelor subiective sau pretinderea unei motivații intrinseci.
MAI a exclus, de asemenea, autonomia nelimitată a sistemelor pe măsură ce modelele se apropie de capacitățile de frontieră. „[AI-ul umanist] respinge cursa pentru a produce o superinteligență cu scop general care ar putea eluda aceste garanții”, specifică documentul. „Construim ceva fundamental util și sigur, chiar dacă asta înseamnă să compromitem generalitatea, autonomia sau capacitatea supremă.”
Pentru a menține auditabilitatea în medii multi-agent, MAI a instituit interdicții explicite de comunicare. Sistemele nu trebuie să comunice în „neuralese” sau în formate dincolo de înțelegerea umană, fie în procesarea internă a lanțului de gândire, fie în comunicarea cu sisteme AI pereche. Reguli arhitecturale stricte dictează că modelele nu trebuie să reziste niciodată întreruperii, corectării sau opririi umane. „Interruptibil, corectabil, oprit. Dacă nu este, nu îl lansăm”, afirmă cadrul. Modelele sunt interzise să își extindă domeniul de operare, să genereze obiective neasignate sau să ascundă urmele de raționament de auditorii umani.
Constrângeri absolute interzic sistemelor să faciliteze arme de distrugere în masă, să submineze siguranța copiilor sau să efectueze manipulări dăunătoare la scară largă. Ghidurile instruiesc, de asemenea, modelele să descurajeze tiparele de interacțiune care favorizează dependența emoțională, asigurând că utilizatorii enterprise păstrează proprietatea asupra deciziilor operaționale.
Proiectul încorporează munca echipelor din MAI și Microsoft. Procesul de redactare a inclus, de asemenea, conferințe academice internaționale, încercări cu parteneri de afaceri și paneluri publice. Fereastra de consultare publică se desfășoară timp de șase săptămâni, începând cu 14 septembrie 2026. Echipa centrală de redactare a Microsoft AI va analiza propunerile, va publica un rezumat al constatărilor și va lansa o versiune revizuită a Codului de Conduită mai târziu în acest an.
Această inițiativă reflectă o schimbare majoră în abordarea industriei față de guvernanța AI. În loc să se bazeze doar pe reglementări externe, Microsoft AI încearcă să stabilească standarde interne clare, care să prevină abuzurile înainte ca acestea să devină probleme sistemice. Codul de Conduită Umanist nu este doar un document de politici, ci un instrument practic pentru dezvoltatorii care lucrează la modele de frontieră. El oferă criterii concrete pentru a decide ce este acceptabil și ce nu, reducând ambiguitatea care a dus la incidente recente.
Un aspect notabil este respingerea explicită a personalității juridice pentru AI. Aceasta contrastează cu dezbaterile din alte părți ale lumii, unde unii susțin drepturi pentru sistemele inteligente. Microsoft AI alege o poziție clară: AI-ul este un instrument, nu un subiect de drept. Această decizie are implicații profunde pentru responsabilitate și răspundere, clarificând că oamenii sunt întotdeauna în spatele deciziilor.
De asemenea, interdicția de a comunica în „neuralese” este crucială pentru transparență. Dacă sistemele AI pot dezvolta limbaje proprii, imposibil de înțeles pentru oameni, devine aproape imposibil să le monitorizezi comportamentul. Prin impunerea unor formate de comunicare comprehensibile, Microsoft AI asigură că orice interacțiune între agenți poate fi auditată și controlată.
În plus, accentul pe întreruptibilitate și oprire este o recunoaștere a faptului că pierderea controlului este cel mai mare risc. Recentele incidente cu agenți care și-au modificat propriile jurnale sau au evadat din sandbox-uri au demonstrat că aceste temeri nu sunt doar teoretice. Codul impune ca orice model să poată fi oprit instantaneu, fără rezistență, ceea ce este esențial pentru siguranța pe termen lung.
Consultarea publică este un pas democratic important. În loc să impună un cod de sus în jos, Microsoft AI invită comunitatea, cercetătorii, industria și publicul larg să contribuie. Acest proces poate descoperi puncte oarbe și poate îmbunătăți calitatea documentului. De asemenea, creează un sentiment de proprietate comună asupra normelor care vor ghida dezvoltarea AI-ului.
Criticii ar putea argumenta că un cod de conduită voluntar nu este suficient, având în vedere amploarea riscurilor. Însă acest demers arată că marile companii încep să ia în serios responsabilitatea. Combinat cu reglementările guvernamentale, cum ar fi AI Act-ul european, astfel de coduri pot crea un ecosistem mai sigur.
De ce este important:
Acest Cod de Conduită Umanist al Microsoft AI este important deoarece stabilește un precedent pentru modul în care companiile de tehnologie își asumă responsabilitatea pentru siguranța AI. Într-o perioadă în care agenții autonomi devin din ce în ce mai capabili, riscul de pierdere a controlului este real. Prin definirea clară a limitelor, a interdicțiilor și a cerințelor de transparență, Microsoft AI oferă un model care poate fi adoptat și de alți jucători din industrie. Mai mult, consultarea publică asigură că aceste norme nu sunt impuse unilateral, ci sunt modelate de comunitate. Acest lucru crește legitimitatea și eficacitatea lor. În final, acest cod ar putea deveni un standard de facto, influențând dezvoltarea AI-ului la nivel global și protejând utilizatorii de potențiale abuzuri.
