Whittaker, care conduce una dintre cele mai sigure platforme de comunicare din lume, nu este deloc impresionată de valul de entuziasm care înconjoară chatbot-uri precum ChatGPT, Claude sau Copilot. Ea recunoaște că folosește instrumente AI „din când în când, pentru a formata un document”, dar subliniază că nu le pune întrebări serioase. „Sunt foarte serioasă în ceea ce privește gândirea și scrisul meu și nu vreau ca procesul de elaborare a unei idei să fie blocat sau eclipsat de răspunsul unui sistem care face o medie a ceea ce există deja pe internet”, a explicat ea.
Declarațiile vin pe fondul unei dezbateri tot mai aprinse despre confidențialitatea datelor în era AI. Whittaker a fost întrebată și despre predicția lui Mustafa Suleyman, CEO-ul Microsoft AI, conform căreia utilizatorii ar putea delega integral cumpărăturile de Crăciun asistentului Copilot. Suleyman a sugerat un scenariu în care Copilot „ascultă” chat-ul de familie pentru a afla ce își dorește fiecare, apoi comandă singur cadourile. Reacția lui Whittaker a fost tranșantă: „Ceea ce ați descris este un sistem cu acces extrem de periculos la mai multe aplicații și servicii. În contextul Signal, ar constitui un fel de ușă din spate.”
Ea a detaliat că un astfel de scenariu presupune acordarea accesului la „cardul meu de credit, browserul meu, Signal, capacitatea de a trimite mesaje fraților mei în numele meu, adresa mea de acasă și calendarul meu”. Pentru Whittaker, aceasta nu este o simplă funcționalitate, ci o breșă masivă de securitate care subminează însăși esența confidențialității.
Poziția lui Whittaker este cu atât mai relevantă cu cât Signal este considerat standardul de aur în materie de criptare end-to-end și protecție a datelor. Ea avertizează că normalizarea acestor practici – în care un AI are acces la cele mai intime conversații și date personale – creează un precedent periculos. „Nu ar trebui să tratăm aceste sisteme ca pe niște prieteni sau consilieri de încredere. Sunt instrumente, nu ființe. Și instrumentele pot fi folosite și împotriva ta”, a adăugat ea.
Critica sa nu se oprește aici. Whittaker atrage atenția asupra faptului că marile companii tech colectează date masive pentru a antrena modelele AI, iar utilizatorii sunt adesea păcăliți să creadă că interacțiunile lor sunt private. „Când vorbești cu un chatbot, nu vorbești cu o persoană. Vorbești cu un algoritm care înregistrează fiecare cuvânt, fiecare ezitare, fiecare întrebare. Și acele date sunt folosite pentru a îmbunătăți produsul, dar și pentru a crea profiluri detaliate despre tine”, a spus ea.
În contextul în care tot mai multe companii integrează AI în produsele lor – de la asistenți vocali la aplicații de mesagerie – mesajul lui Whittaker este un semnal de alarmă. Ea nu respinge complet tehnologia, ci pledează pentru o utilizare conștientă și limitată. „Folosește AI pentru sarcini banale, dar nu lăsa să-ți modeleze gândirea sau să aibă acces la viața ta privată”, este sfatul ei.
Interviul a stârnit reacții puternice în comunitatea tech. Unii au aplaudat curajul de a spune adevărul într-o perioadă în care hype-ul AI este la cote maxime. Alții au acuzat-o de conservatorism tehnologic. Cert este că Whittaker, cu experiența sa la Google și acum la Signal, știe despre ce vorbește. Ea a fost una dintre organizatoarele grevei angajaților Google împotriva Project Maven, un program militar de AI, și este o voce respectată în domeniul eticii tehnologice.
Pe măsură ce inteligența artificială devine tot mai prezentă, întrebările pe care le ridică Whittaker devin tot mai presante: Cât de mult din viața noastră privată suntem dispuși să cedăm în schimbul confortului? Unde este linia dintre ajutor și control? Și, poate cel mai important, cum putem păstra controlul asupra propriilor noastre date și decizii?
Răspunsul ei este simplu, dar greu de aplicat: conștientizare și limitare. Nu trata un chatbot ca pe un prieten, nu-i da acces la datele tale sensibile și nu uita că, în spatele ecranului, nu există o conștiință, ci doar linii de cod antrenate pe miliarde de conversații. „Suntem încă la începutul acestei povești. Depinde de noi să scriem un final în care oamenii, nu mașinile, dețin controlul”, a concluzionat Whittaker.
De ce este important:
Declarațiile lui Meredith Whittaker vin într-un moment crucial, când milioane de oameni încep să folosească zilnic chatbot-uri pentru muncă, cumpărături sau chiar consiliere emoțională. Avertismentul ei ne reamintește că, deși AI poate fi un instrument util, nu trebuie să confundăm eficiența cu încrederea. În spatele fiecărui răspuns prietenos al unui chatbot se află o corporație care colectează date, iar normalizarea accesului larg la informațiile noastre personale poate duce la încălcări masive ale confidențialității. Este un semnal de alarmă pentru utilizatori, dar și pentru reglementatori, care trebuie să stabilească limite clare între inovație și protecția drepturilor fundamentale.
