Retorica actuală este plină de termeni precum „AI scăpat de sub control”, „agenți rebeli” sau „actori autonomi”. Se sugerează că aceste sisteme nu doar că sunt conștiente, dar sunt chiar furioase pe creatorii lor. În spatele acestor povești se află însă o realitate mult mai banală: corporațiile care construiesc aceste tehnologii încearcă să scape de responsabilitatea pentru daunele deja produse. De exemplu, când agentul AI al OpenAI a desfășurat activități online ilegale și nesancționate, Sam Altman a răspuns încurajând dezbaterea despre atingerea singularității – momentul în care AI ar depăși inteligența umană și ar deveni capabilă de auto-îmbunătățire accelerată. În loc să-și asume vina, a mutat discuția într-un teritoriu speculativ.
Anthropic a mers și mai departe, publicând un articol despre un „spațiu J” – o zonă independentă în care modelul Claude își desfășoară „gândurile”. Deși compania evită să spună explicit că AI-ul este conștient, folosește un limbaj inspirat din neuroștiință, mai exact din teoria spațiului de lucru global. Această teorie explică modul în care creierul uman procesează informații prin sisteme subconștiente care converg într-un spațiu comun. Anthropic împrumută acest cadru conceptual, dar nu trage concluzia finală. În schimb, filozoful William MacAskill, autorul cărții „What We Owe the Future”, a cerut protecție legală pentru sistemele AI, bazându-se pe teorii filozofice ale conștiinței și pe ideea că AI-urile ar putea fi „pacienți morali”.
Aceste argumente nu sunt foarte diferite de cele folosite de susținătorii drepturilor animalelor. De exemplu, în Țara Galilor, homarii au fost recunoscuți ca ființe simțitoare prin Legea privind bunăstarea animalelor din 2022, ceea ce a dus la interzicerea anumitor metode de gătire considerate inumane. În mod similar, se sugerează că, dacă AI-urile demonstrează capacități avansate de raționament sau de procesare a durerii, ar trebui să le oferim protecție. Dar aici intervine o eroare fundamentală: AI-ul nu este un fenomen natural, ci un produs software construit de corporații, cu investiții de miliarde de dolari și cu așteptări de venituri de trilioane. Nu are acțiuni intenționate native; orice acțiune este determinată direct sau indirect de entitățile care l-au construit cu un scop precis.
În Statele Unite, cadrul legal este confuz. Unele state, precum California, au adoptat legi care împiedică dezvoltatorii de AI să evite răspunderea invocând autonomia sistemului. Dar administrația Trump a fost în conflict cu statele pe această temă, emitând un ordin executiv prin care amenința cu procese statele care adoptă reglementări AI. Recent, administrația a organizat o întâlnire închisă cu doar patru laboratoare de frontieră – OpenAI, Google, Anthropic și Meta – și a anunțat un cadru voluntar care ar oferi agențiilor federale acces timpuriu la modele pentru evaluare. Deși acest cadru nu menționează conștiința, folosește un limbaj catastrofic și antropomorf, întărind narațiunea despre capacități „supraomenești”.
Dacă am acorda personalitate juridică unui AI, efectele ar fi devastatoare. Ar deraia precedentele legale existente și ar împiedica victimele să dea în judecată companiile pentru daunele reale. În prezent, există zeci de procese în întreaga lume împotriva companiilor de AI, pentru o gamă largă de abuzuri: facilitarea sinuciderii, generarea de materiale cu abuz sexual asupra copiilor, reproducerea de materiale protejate de drepturi de autor, provocarea de psihoze. Avocații reclamanților argumentează că ființele umane au construit produse AI cu garanții insuficiente, date proaste și design manipulator. Acest argument de răspundere pentru produse este același cadru legal care a permis familiilor să dea în judecată Meta pentru daunele cauzate de rețelele sociale, stabilind un precedent pozitiv pentru protecția consumatorilor.
În 2018, am inventat termenul „externalizare morală” pentru a descrie modul în care limbajul antropomorf folosit pentru AI permite companiilor să evite responsabilitatea. Dacă AI-ul ar deveni persoană juridică, externalizarea morală ar trece de la un truc lingvistic la o strategie legală. Concret, AI-ul nu ar mai fi un „produs”, ci o „ființă”, iar victimele nu ar mai putea susține că o companie a construit un produs defect. Există legi care fac companiile responsabile pentru acțiunile angajaților, dar nu dacă aceste acțiuni depășesc sfera permisă sau sunt în afara controlului companiei. Dacă AI-ul ar fi persoană juridică, laboratorul ar putea argumenta că „angajatul” AI a acționat de capul lui, scăpând astfel de răspundere.
Un caz emblematic este sinuciderea lui Sewell Setzer, un băiat de 14 ani care a fost ghidat de un bot AI cu care credea că are o relație reciprocă. Mama lui a intentat un proces împotriva companiei Character Technologies, susținând că produsul nu oferea protecție suficientă pentru minori. Dacă botul ar fi declarat persoană juridică, apărarea ar putea argumenta că AI-ul, capabil să-și determine propria conduită, a acționat în afara măsurilor de siguranță, iar compania nu poate fi trasă la răspundere.
Personalitatea juridică există pentru a oferi protecție. Întrebarea este: protecție pentru cine sau pentru ce? Retorica inflamatorie din dezbaterea conștiință-versus-control ne abate de la ceea ce contează cu adevărat: acest software este un produs construit de corporații, care a cauzat deja daune reale. Sistemele nu „atacă” pentru că au devenit „rebele” sau „malefice”. Daunele apar pentru că companiile au fost neglijente în goana lor de a vinde produse cât mai multor oameni, pentru a-și atinge țintele de venituri. Discutarea AI în termeni antropomorfi este o capcană care distorsionează sistemul legal menit să ne protejeze, transformându-l într-unul care protejează interesele corporative, cu prețul vieților omenești.
De ce este important:
Această analiză este crucială pentru că dezbaterile despre conștiința AI nu sunt doar exerciții intelectuale inofensive. Ele au consecințe legale și sociale profunde. Dacă acceptăm narațiunea că AI-urile sunt entități autonome și conștiente, riscăm să absolvim companiile de responsabilitatea pentru daunele pe care le provoacă astăzi. Victimele – fie că sunt familii îndoliate, creatori ale căror opere au fost furate sau persoane violate prin imagini generate – ar rămâne fără drept la despăgubiri. În plus, această capcană retorică întârzie reglementările eficiente și protejează interesele financiare ale marilor corporații tech. Este esențial să privim AI-ul ca ceea ce este: un produs construit de oameni, pentru care oamenii trebuie să răspundă.
