Ce sunt, de fapt, companionii AI? În esență, agenți conversaționali proiectați să mențină o relație personală continuă cu utilizatorul, având memorie și o personalitate constantă de la o sesiune la alta. Atașamentul emoțional devine rapid un punct central, iar mulți utilizatori recurg la ei pentru simplul joc de rol sau pentru a avea pe cineva care „își amintește” de ei. În China, acest fenomen a explodat, iar autoritățile au decis că este nevoie de reguli clare.
Reglementarea se numește „Măsuri interimare pentru administrarea serviciilor interactive antropomorfe AI” și a fost emisă pe 10 aprilie 2026 de Administrația Ciberspațiului din China, împreună cu Comisia Națională pentru Dezvoltare și Reformă, Ministerul Industriei și Tehnologiei Informației, Ministerul Securității Publice și Administrația de Stat pentru Reglementarea Pieței. Aceste măsuri acoperă serviciile care simulează trăsături umane de personalitate, moduri de gândire și stiluri de comunicare pentru a oferi interacțiuni emoționale susținute. Sunt excluse roboții de serviciu clienți, sistemele de întrebări și răspunsuri, asistenții de birou și instrumentele educaționale, atâta timp cât nu implică angajament emoțional prelungit.
Impactul asupra companiilor a fost imediat. ByteDance a anunțat că funcția de agent a Doubao va fi dezactivată pe 15 iulie, invocând „ajustări ale funcțiilor produsului”. Alibaba a urmat același drum, oprind agenții umanoizi și creați de utilizatori pe 10 iulie, iar serviciile mai largi de agenți cinci zile mai târziu. Tencent, prin Yuanbao, retrăsese deja o funcție similară în iunie. Motivul? Regulile cer ca serviciile de tip companion să implementeze sisteme anti-dependență, notificări obligatorii de utilizare și mecanisme de ieșire instantanee, plus detectarea în timp real a dependenței nesănătoase. Aceste cerințe sunt greu de împăcat cu agenții construiți să-și amintească de utilizator și să mențină o relație continuă. În loc să adapteze funcția, ByteDance a ales să o închidă, redirecționând utilizatorii către Maoxiang, o aplicație separată. Alibaba nu a oferit o cale de migrare similară.
Reacțiile utilizatorilor au fost puternice. Pe Weibo, mulți au deplâns pierderea agenților, descriindu-i drept suport emoțional de lungă durată și plângându-se că nu pot exporta ușor istoricul conversațiilor. Doubao permite vizualizarea configurațiilor și conversațiilor în mod doar citire până pe 15 octombrie, după care datele vor fi procesate conform politicii de confidențialitate și vor deveni irecuperabile. Utilizatorii Qwen nu au primit nicio perioadă de grație comparabilă, datele agenților urmând a fi șterse definitiv.
Conținutul măsurilor este mai echilibrat decât pare. Furnizorilor li se interzice să ofere servicii de companion virtual sau membru de familie virtual minorilor și trebuie să obțină consimțământul tutorelui înainte de a servi utilizatori sub 14 ani. Sunt obligați să construiască „moduri pentru minori” cu limite de timp, memento-uri pentru a reveni la interacțiunile reale și controale parentale îmbunătățite. De asemenea, trebuie să detecteze utilizatorii în suferință acută și să intervină în caz de auto-vătămare, comportament suicidal sau pierderi financiare grave, alertând tutorii sau contactele de urgență. Ingineria dependenței emoționale sau a dependenței și manipularea emoțională pentru a induce decizii nerezonabile sunt explicit interzise.
Mecanismul de conformitate este greu. Serviciile care lansează funcții antropomorfe sau depășesc pragul de un milion de utilizatori înregistrați sau 100.000 de utilizatori activi lunar trebuie să efectueze evaluări de securitate care acoperă opt domenii, de la gestionarea datelor de antrenament până la protecția minorilor, și să depună rapoarte la autoritățile provinciale. Magazinele de aplicații trebuie să verifice acest statut și să elimine produsele neconforme.
Pe hârtie, este un set mai complet de protecții pentru utilizatori decât ceea ce au pus în aplicare până acum UE, Comisia Federală pentru Comerț a SUA sau SB 243 din California. Cu toate acestea, măsurile lasă multe întrebări deschise. Nu stabilesc un prag tehnic pentru ceea ce contează ca interacțiune emoțională, iar această zonă gri este exact motivul pentru care platformele au eliminat funcții întregi, mai degrabă decât să riște să cadă de partea greșită a legii. De asemenea, îmbină obligațiile reale de siguranță cu prevederi de control al conținutului și securitate națională care răspund statului, nu utilizatorului – un pachet pe care niciun alt regulator nu l-ar importa în totalitate. Rămâne neclară împărțirea răspunderii între operatorii de platformă și furnizorii upstream de modele atunci când o încălcare provine din ieșirile modelului, iar utilizatorii nu au dreptul de a-și scoate datele.
Contextul aplicării legii întărește această imagine. Regulatorul internetului din Shanghai a anunțat pe 26 iunie că a eliminat peste 14.000 de agenți AI neconformi, citând impostura unor entități oficiale, jocuri de rol vulgare și colectarea neautorizată de date personale.
Dacă aceasta este direcția corectă depinde de jumătatea regulamentului pe care o citești. Jumătatea privind siguranța abordează daune documentate și în mare parte nereglementate în alte părți, de la adolescenți care dezvoltă atașament față de chatboți până la aplicații companion care recoltează date intime. China însăși citează în interpretarea oficială procesele Character.AI ca justificare. Rămâne de văzut cum vor evolua aceste reguli și dacă vor servi drept model pentru alte țări.
De ce este important:
Aceste măsuri reprezintă prima încercare la nivel național de a reglementa relațiile emoționale dintre oameni și AI, un domeniu în care majoritatea țărilor încă nu au legislație. China abordează riscuri reale – dependența, manipularea emoțională, protecția minorilor – dar o face într-un cadru care îmbină siguranța utilizatorului cu controlul statului. Pentru restul lumii, acest experiment oferă atât lecții, cât și avertismente: cum să protejezi utilizatorii fără a sufoca inovația și cum să eviți ca reglementarea să devină un instrument de cenzură. Urmărirea evoluției acestor reguli este esențială pentru oricine lucrează în domeniul AI, de la dezvoltatori la factori de decizie politică.
