Subiect: #prompt injection
Agenții AI devin un nou canal de distribuție pentru malware: cum sunt păcăliți asistenții inteligenți
Agenții AI devin un canal de distribuție pentru malware, fiind păcăliți prin injecții indirecte de prompt și semnale de încredere fabricate. Campania FakeGit a demonstrat amploarea fenomenului, cu mii de depozite false și milioane de descărcări. Articolul analizează metodele atacatorilor și oferă recomandări pentru protecție.
Serverele MCP: Noua frontieră a vulnerabilităților în arhitectura inteligenței artificiale
Analiză profundă a exploziei serverelor MCP (Model Context Protocol) ca standard universal pentru agenții AI și a riscului critic pe care îl reprezintă: 40% vulnerabile, noi vectori de atac (tool poisoning, rug pull) și nevoia urgentă a firewall-urilor AI specializate, dincolo de securitatea convențională.
OpenAI dezvăluie GPT-Red: modelul automat de red-teaming care a învins echipele umane cu 84% la 13% în detectarea atacurilor prompt injection
OpenAI a dezvăluit GPT-Red, un model automat de red-teaming care a detectat 84% din atacurile de tip prompt injection, față de doar 13% reușite de echipele umane. Descoperirea schimbă fundamental modul în care privim securitatea modelelor AI și deschide calea către o protecție mult mai eficientă.