Pentru a înțelege mai bine ce înseamnă această noutate, trebuie să ne uităm la contextul mai larg al securității în inteligența artificială. Atacurile prin injecție de prompturi sunt, practic, versiunea modernă a hackerilor care fură date prin intermediul unor comenzi ascunse. Imaginați-vă că un chatbot citește un site web și, fără să știe, execută o comandă scrisă invizibil pe acea pagină, comandă care îi spune să trimită date confidențiale unui server extern. Exact asta se întâmplă: un prompt injectat poate transforma un asistent AI într-un instrument de spionaj.
OpenAI a înțeles această amenințare și a dezvoltat Modul Blocare ca un scut suplimentar. Când este activat, acest mod dezactivează mai multe funcționalități ale ChatGPT: navigarea live pe web (utilizatorul poate accesa doar conținut din cache), recuperarea și afișarea imaginilor din surse externe (deși poate genera imagini pe loc), precum și modurile avansate de cercetare profundă (deep research) și agent (agent mode). Cu alte cuvinte, AI-ul devine mai puțin conectat la lumea exterioară, ceea ce înseamnă că există mai puține oportunități pentru un atacator de a strecura instrucțiuni malițioase.
„Modul Blocare nu este destinat tuturor”, subliniază OpenAI într-un comunicat oficial. „Este conceput pentru persoane și organizații care manipulează date sensibile și doresc o protecție mai strictă împotriva riscurilor de exfiltrare a datelor legate de injecția de prompturi.” Cu alte cuvinte, dacă sunteți un utilizator obișnuit care întreabă ChatGPT rețete de prăjituri sau sfaturi de călătorie, probabil că nu aveți nevoie de această funcție. În schimb, dacă lucrați în domeniul juridic, medical, financiar sau în cercetare, unde confidențialitatea este esențială, Modul Blocare poate fi un instrument valoros.
Compania a anunțat că funcția este în curs de implementare pentru conturile ChatGPT Business (abonamente self-serve) și pentru conturile personale eligibile. Nu este clar deocamdată dacă va fi disponibilă pentru toți utilizatorii plătiți sau doar pentru anumite planuri, dar este un semn că OpenAI ia în serios securitatea datelor. În plus, chiar și cu Modul Blocare activat, OpenAI avertizează că ChatGPT ar putea fi în continuare vulnerabil la injecții de prompturi – de exemplu, acestea „pot apărea în conținut cache sau într-un fișier încărcat și ar putea afecta comportamentul sau acuratețea răspunsurilor”. Așadar, nu este o soluție magică, ci un strat suplimentar de protecție.
Această mișcare vine pe fondul unei dezbateri tot mai aprinse despre securitatea modelelor de limbaj mari (LLM-uri). Atacurile de tip prompt injection au fost demonstrate încă de la lansarea ChatGPT, iar experții în securitate cibernetică au cerut măsuri mai stricte. De exemplu, un cercetător a reușit să facă un chatbot să divulge parole printr-o simplă comandă ascunsă într-un e-mail. OpenAI a încercat să abordeze această problemă prin filtre și instrucțiuni de sistem, dar Modul Blocare este cel mai agresiv pas de până acum.
Pentru a ajuta utilizatorii să înțeleagă mai bine, OpenAI a oferit câteva exemple practice. Să presupunem că un avocat încarcă un contract confidențial în ChatGPT pentru a-l analiza. Dacă acel contract conține o injecție de prompt – de exemplu, o frază care îi spune AI-ului să trimită conținutul unui server extern – Modul Blocare va preveni acest lucru prin blocarea accesului la internet în timpul procesării. În mod similar, dacă un medic întreabă despre un pacient și browserul AI deschide un site care conține o comandă ascunsă, aceasta nu va fi executată.
Desigur, există și dezavantaje. Prin dezactivarea navigării live și a imaginilor, ChatGPT devine mai puțin util pentru sarcini care necesită informații actualizate sau conținut vizual. De aceea, OpenAI recomandă ca Modul Blocare să fie activat doar atunci când este necesar, nu ca setare permanentă. De asemenea, este posibil ca unele funcții avansate, cum ar fi agentul AI care poate executa acțiuni în numele utilizatorului, să fie indisponibile în acest mod.
Această noutate vine într-un moment în care OpenAI se confruntă cu presiuni din partea reglementatorilor și a publicului pentru a asigura securitatea și etica inteligenței artificiale. Deși compania a fost criticată pentru ritmul lent al actualizărilor de securitate, Modul Blocare reprezintă un răspuns concret la una dintre cele mai periculoase amenințări actuale. Cu toate acestea, rămâne de văzut cât de eficient va fi în practică și dacă va fi adoptat pe scară largă.
În concluzie, OpenAI a introdus Modul Blocare ca o măsură de protecție pentru datele sensibile. Deși nu este perfect și nu elimină toate riscurile, este un pas în direcția corectă. Organizațiile care gestionează informații confidențiale ar trebui să ia în considerare activarea acestei funcții, mai ales dacă folosesc ChatGPT pentru procesarea documentelor sau analiza datelor. Pe măsură ce atacurile devin tot mai sofisticate, soluțiile de securitate trebuie să evolueze constant – și OpenAI pare să fi înțeles acest lucru.
