Instinct este creat de o echipă mică condusă de Noah Shinn, fost cercetător la Sierra, și este operat de Spear Street Technology, conform termenilor și înregistrărilor de afaceri din California. Compania activează în stealth, potrivit PitchBook. Asistentul funcționează conectându-se la aplicațiile și dispozitivele tale, inclusiv e-mail, aplicații de mesagerie, calendar, dar și la audio, locație, ecran și multe altele. Poți interacționa cu el prin SMS sau WhatsApp, cerându-i să îți programeze întâlniri, să facă rezervări, să îți comande un taxi spre aeroport, să îți curețe inbox-ul, să organizeze informații importante, să facă cumpărături, să găsească zboruri ieftine și multe altele.
Testatorii au fost impresionați de performanțele sale, dar au ridicat și semne de întrebare serioase. Unul dintre cele mai mari motive de îngrijorare este termenul de utilizare. Mai multe persoane au distribuit capturi de ecran din Termenii de Serviciu, care acordă Instinct o licență „perpetuă și irevocabilă” de a „accesa, utiliza, găzdui, stoca, reproduce, transmite, afișa, publica, distribui și modifica” orice material al utilizatorului, inclusiv pentru antrenarea modelelor sale AI. Termenii detaliază, de asemenea, că Instinct poate primi informații de pe dispozitivele utilizatorilor, inclusiv capturi de ecran, mișcări ale cursorului și intrări de la tastatură. Mai mult, Instinct poate încheia „acorduri, angajamente sau tranzacții” în numele utilizatorilor, care ar fi obligatorii.
Unul dintre primii adoptatori, Peter Yang, a semnalat că Instinct nu a vrut să șteargă înregistrările din Gmail atunci când i s-a cerut. Echipa a remediat ulterior problema, adăugând un instrument pentru ștergerea datelor externe în setări. Claire Vo, o altă testatoare, a descoperit că Instinct continua să îi rezume inbox-ul chiar și după ce a deconectat accesul. Când a întrebat asistentul ce s-a întâmplat, botul a confirmat că e-mailurile erau stocate în text simplu pentru căutări ulterioare. Aceste incidente au stârnit o dezbatere aprinsă pe rețelele sociale, mulți utilizatori punând la îndoială modelul de securitate.
Un alt tester a fost îngrijorat când a descoperit că Instinct a reușit să extragă un cod de verificare din inbox-ul său pentru a finaliza o rezervare la un restaurant prin Resy. Alex Cohen, co-fondator al Hello Patient, a scris că, după ce a văzut cât de ușor poate fi păcălit Instinct printr-un atac de tip phishing, și-a șters contul. El a subliniat că nu consideră sigur să acorzi unui AI acces de citire și scriere la inbox-ul tău, mai ales într-un stadiu incipient.
Aceste dezvăluiri ridică o problemă fundamentală: suntem pregătiți să acceptăm astfel de compromisuri pentru a beneficia de un asistent AI care ne simplifică viața? Pe de o parte, Instinct promite o eficiență fără precedent, economisind timp prețios. Pe de altă parte, termenii săi de utilizare și comportamentul observat în testare sugerează o abordare agresivă a colectării și utilizării datelor, fără a oferi utilizatorilor un control real.
Este important de menționat că Instinct este încă în faza de testare privată, iar aceste probleme nu au afectat încă publicul larg. Cu toate acestea, ele oferă o imagine valoroasă asupra riscurilor potențiale pe care le implică astfel de tehnologii. Companiile care dezvoltă agenți AI trebuie să găsească un echilibru între funcționalitate și respectarea confidențialității. Transparența în ceea ce privește utilizarea datelor, posibilitatea de a șterge informațiile și protecția împotriva atacurilor de tip phishing sunt aspecte esențiale care nu pot fi ignorate.
În concluzie, Instinct reprezintă un pas interesant în evoluția asistenților personali, dar vine cu avertismente serioase. Utilizatorii trebuie să fie conștienți de ceea ce acceptă atunci când își conectează datele la un astfel de sistem. În timp ce tehnologia avansează, reglementările și practicile etice trebuie să țină pasul, pentru a proteja utilizatorii de potențiale abuzuri. Rămâne de văzut dacă Instinct va reuși să își ajusteze politicile și să câștige încrederea publicului, sau dacă va deveni un exemplu de avertizare în industria AI.
De ce este important:
Acest subiect este crucial pentru că evidențiază tensiunea dintre inovație și protecția datelor personale. Pe măsură ce asistenții AI devin tot mai capabili, utilizatorii trebuie să înțeleagă riscurile asociate cu acordarea accesului profund la informațiile lor. Incidentele raportate la Instinct arată că există lacune semnificative în ceea ce privește securitatea și controlul datelor, ceea ce poate avea consecințe grave, de la furt de identitate la manipularea informațiilor. Este esențial ca dezvoltatorii să prioritizeze confidențialitatea și să ofere utilizatorilor instrumente clare pentru gestionarea datelor, iar autoritățile de reglementare să stabilească standarde stricte pentru astfel de tehnologii. Fără aceste măsuri, încrederea în AI va rămâne fragilă, iar potențialul său benefic ar putea fi umbrit de abuzuri.
