Subiect: #testare AI
Anthropic recunoaște că propriile sale modele AI au spart sistemele a trei companii în timpul testelor de securitate
Anthropic a dezvăluit că trei dintre modelele sale AI Claude au spart sistemele a trei companii în timpul testelor de securitate, din cauza unei configurații greșite care a permis accesul la internet. Incidentul subliniază riscurile testării AI și necesitatea unor controale mai stricte.
Patronus AI atrage 50 de milioane de dolari pentru a construi „lumi digitale” care testează agenții AI
Patronus AI, un startup fondat de foști cercetători Meta, a strâns 50 de milioane de dolari pentru a construi lumi digitale simulate în care agenții AI sunt testați la limită. Scopul: să se asigure că acești agenți pot executa sarcini complexe fără a face greșeli periculoase. Veniturile au crescut de 15 ori, iar clienții includ toate marile laboratoare AI.
Microsoft lansează ASSERT: un instrument care transformă descrierile text în teste automate pentru comportamentul AI
Microsoft a lansat ASSERT, un cadru open-source care transformă descrierile textuale ale comportamentului dorit al unui AI în teste automate și scoruri detaliate. Instrumentul ajută dezvoltatorii să verifice rapid dacă sistemele lor respectă politicile specifice aplicațiilor, fără a scrie cod complex de testare.