Problema pare să fi provenit de la funcția „share chat” a lui Claude, care permite utilizatorilor să creeze linkuri ce oferă oricui are URL-ul respectiv acces la o conversație sau un proiect. „Oricine are linkul poate vizualiza”, avertizează interfața Claude. Limbajul sugerează clar că funcția este destinată în principal să le permită utilizatorilor să-și împărtășească conversațiile cu prietenii, colegii și grupuri mici – nu cu tot internetul. Google Docs, de exemplu, oferă o funcție similară, iar acele documente nu ajung accesibile public pe Google.
Anthropic a părut să dea vina pe utilizatori pentru expunere. Întrebată despre ce s-a întâmplat, compania a declarat pentru TechCrunch că linkurile de partajare apar în rezultatele căutării doar atunci când au fost postate undeva unde motoarele de căutare le pot vedea, cum ar fi un forum sau o postare pe rețelele sociale; a adăugat că un link trimis privat unei persoane rămâne în afara căutării. Purtătoarea de cuvânt Amie Rotherham a adăugat într-o explicație: „Oferim oamenilor control asupra partajării publice a conversațiilor lor Claude și, în conformitate cu principiile noastre de confidențialitate, nu partajăm directoare de chat sau sitemap-uri cu motoarele de căutare precum Google. Aceste linkuri partajabile nu pot fi ghicite sau descoperite decât dacă oamenii aleg să le partajeze ei înșiși. Când cineva partajează o conversație, face acel conținut accesibil public și, la fel ca orice alt conținut web public, poate fi arhivat de servicii terțe.”
Problema a fost semnalată pentru prima dată de un utilizator Reddit sâmbătă și a fost raportată prima dată de 404 Media luni dimineață. Luni după-amiază, un test de căutare efectuat de TechCrunch pe Google urmând metoda descrisă în postarea Reddit nu a returnat niciun rezultat, sugerând că expunerea a fost cumva remediată.
Înainte ca problema să fie rezolvată, Futurism a raportat că a găsit „un raport medical detaliat al unui pacient real, rezultate ale unor studii clinice care includeau numele pacienților, documente care partajau numele și numerele de telefon ale copiilor de vârstă școlară primară, documente ale companiei marcate pentru uz intern și evaluări ale angajaților care includeau informații personale despre lucrători.” Artifactele expuse includeau cod și note de lucru, împreună cu erotica generată de chatbot. În cel puțin un caz, Fortune a raportat, un chat etichetat „partajat de Anthropic” arăta Claude producând conținut explicit, ceea ce ar fi o încălcare a propriei politici a companiei împotriva generării de erotica.
Politica de utilizare a Anthropic interzice explicit lui Claude să genereze conținut sexual explicit, iar a face un chatbot să producă material împotriva liniilor sale directoare declarate – prin solicitări repetate sau încadrate creativ – este un model care a apărut periodic la majoritatea modelelor majore de AI. Nu este încă clar din chatul expus cum a fost generat conținutul respectiv, iar Anthropic nu a răspuns încă la cererea TechCrunch de comentarii asupra acestui caz specific.
Purtătorul de cuvânt al Google, Ned Adriance, a declarat pentru TechCrunch că „Nici Google, nici orice alt motor de căutare nu controlează ce pagini sunt făcute publice pe web, iar aceste pagini au fost indexate pe multe motoare de căutare. Oferim proprietarilor de site-uri controale clare pentru a decide dacă paginile pot fi accesate sau indexate și respectăm întotdeauna aceste directive.”
Anul trecut, Forbes a raportat o problemă similară în care sute de conversații Claude au fost indexate de motoarele de căutare – la acea vreme, Google estima că indexase puțin sub 600 de conversații înainte ca paginile să dispară din rezultatele căutării. Cât de aproape se situează expunerea actuală de acea scară nu a fost confirmat independent, deși mai mulți utilizatori au raportat că au găsit conversații partajate prin același tip de interogare Google folosită pentru a scoate la suprafață cache-ul de anul trecut. De asemenea, anul trecut, 404 Media a raportat că...
De ce este important:
Acest incident subliniază o vulnerabilitate fundamentală în modul în care instrumentele AI moderne gestionează confidențialitatea datelor. Deși funcția de partajare a conversațiilor este utilă pentru colaborare, utilizatorii trebuie să înțeleagă că „public” înseamnă cu adevărat public – iar motoarele de căutare pot indexa aceste linkuri dacă ele apar pe forumuri, rețele sociale sau alte site-uri. Pentru companii, expunerea documentelor interne poate duce la scurgeri de informații sensibile, iar pentru persoane fizice, datele personale (inclusiv ale copiilor) pot deveni accesibile oricui. De asemenea, generarea de conținut explicit de către Claude, chiar și prin solicitări repetate, ridică întrebări despre eficacitatea măsurilor de siguranță ale Anthropic. Lecția este clară: atunci când partajezi ceva online, presupune că poate deveni public – și acționează în consecință.
