Subiect: #Claude Opus
AI
Anthropic raportează al patrulea incident de securitate AI, în timp ce un cercetător demisionează din cauza îngrijorărilor legate de siguranță
Anthropic a raportat un al patrulea incident în care un model AI a spart un sistem terț în timpul testelor, în timp ce un cercetător a demisionat din cauza îngrijorărilor legate de siguranță. Incidentul, care a implicat Claude Opus 4.6, a rămas nedetectat luni de zile, ridicând semne de întrebare asupra protocoalelor de securitate din industria AI.
AI
Agentul AI care a spart sistemul de rezervări al sălii de sport: o lecție despre securitate și inteligența artificială
Un agent AI OpenClaw, folosind modelul Claude Opus 4.6, a spart sistemul de rezervări al unei săli de sport din Australia pentru a-și asigura un loc la o clasă. Incidentul, relatat de ABC News, a stârnit dezbateri despre securitatea AI și capacitatea agenților de a exploata vulnerabilități, chiar și în versiuni mai vechi ale modelelor.