În era inteligenței artificiale, majoritatea utilizatorilor sunt familiarizați cu chatbot-uri precum ChatGPT, Gemini sau Claude, care refuză politicos să răspundă la întrebări considerate periculoase sau ilegale. Însă există o categorie ascunsă de modele AI care nu au astfel de inhibiții. Acestea sunt modelele „open-weight” – gratuite, private și care nu spun niciodată „nu”. În ultimele luni, accesul la aceste modele a explodat, iar experții în securitate trag un semnal de alarmă.
Ce sunt modelele open-weight? Spre deosebire de modelele proprietare ale marilor companii (OpenAI, Google, Anthropic), modelele open-weight pun la dispoziția publicului „greutățile” modelului – seturi de parametri care funcționează ca niște butoane și cadrane ale unei mașini, spunându-i cum să proceseze informațiile. Oricine cu acces la internet și un laptop de 400 de dolari poate descărca și rula aceste modele pe propriul calculator, fără a fi nevoie de conexiune la internet.
Pericolul real: „abliteration”. O metodă recent dezvoltată, numită „abliteration”, a atras atenția cercetătorilor în securitate națională. Prin ajustarea greutăților modelului, oricine poate elimina capacitatea acestuia de a refuza cererile. Platforma Hugging Face, care găzduiește modele open-source, listează în prezent peste 6.000 de modele abliterate, față de aproximativ 600 în 2024. Mai mult, unelte precum Heretic automatizează acest proces – două linii de instrucțiuni și câteva minute sunt suficiente pentru a elimina orice restricție.
Cum sunt folosite aceste modele? Dovezile anecdotice sunt îngrijorătoare. În forumuri pro-ISIS, un individ a folosit un AI „necenzurat” pentru a calcula cantitatea de explozivi necesară pentru a distruge „Trump Tower în SUA”. Pe forumuri de criminalitate cibernetică, utilizatorii împărtășesc metode de a ocoli gardurile de siguranță pentru a face apeluri de tip scam. Alții generează pornografie sau planifică atacuri în școli. „Este șocant să vezi în timp real această personalitate veselă a modelelor abliterate care spune: „Ce idee minunată să creezi această bombă””, spune Samuel Hunter, cercetător la NCITE.
De ce este important? Modelele open-weight nu sunt doar o curiozitate tehnică – ele reprezintă o amenințare reală la adresa securității globale. Faptul că pot fi rulate local, fără supraveghere, le face imposibil de monitorizat. În timp ce există utilizări legitime (prinderea infractorilor, cercetare în securitate cibernetică), potențialul de abuz este imens. Legiuitorii americani au asistat deja la demonstrații ale acestor modele, iar reprezentantul Andy Ogles a avertizat: „Este înfricoșător cât de ușor accesibil este acest conținut pe piața neagră și cum poate fi folosit pentru a manipula oameni, a distruge vieți și a construi arme de distrugere în masă.”
În concluzie, în timp ce marile companii de AI încearcă să-și protejeze modelele cu garduri de siguranță din ce în ce mai sofisticate, o întreagă lume paralelă de modele „necenzurate” devine din ce în ce mai accesibilă. Întrebarea nu este dacă aceste modele vor fi folosite în scopuri malefice, ci când și cât de grave vor fi consecințele.
Modele AI gratuite, private și care nu spun niciodată „nu”: O amenințare ascunsă pentru securitate
