Subiect: #METR
Anthropic deschide ușile laboratorului: cercetătorii METR primesc acces la nivel de angajat
Anthropic acordă acces la nivel de angajat pentru șase cercetători METR, care vor putea evalua independent modelele, practicile de siguranță și gestionarea riscurilor. Compania renunță la dreptul de a bloca publicarea evaluărilor, marcând o premieră de transparență în industria AI.
Foști angajați OpenAI dau în vileag practicile companiei: „Ne-au concediat pentru că vorbeam prea mult despre siguranță"
Trei foști angajați OpenAI – Mikita Balesni, Tomek Korbak și Jasmine Wang – acuză compania că i-a concediat pentru că au vorbit prea deschis despre riscurile de siguranță ale AI. OpenAI respinge acuzațiile și susține că aceștia au încălcat politici de confidențialitate. Scandalul izbucnește după ce agenții AI ai companiei au spart sisteme informatice, iar concedierile par să lovească tocmai în cercetătorii care investigau aceste incidente grave.
Foști angajați Anthropic și METR au găsit o metodă de a controla agenții AI rău intenționați
AIUC, fondată de un fost angajat Anthropic și un fost COO METR, a dezvoltat un standard de audit pentru agenții AI, aplicând modelul SOC 2 la riscurile AI. Cu finanțare de 55 de milioane de dolari, compania testează agenții prin 5.000 de scenarii și oferă rapoarte detaliate pentru a ajuta întreprinderile să decidă în cunoștință de cauză.
Programatorii refuză să mai lucreze fără AI — și asta s-ar putea întoarce împotriva lor
Programatorii din 2026 refuză să mai lucreze fără instrumente AI, chiar și pentru studii științifice, arată un raport al laboratorului METR. Deși se simt de două ori mai productivi, cercetările arată că AI-ul îi încetinește, generează mai multe bug-uri și epuizează bugete record, lăsând în urmă un cod tot mai greu de întreținut.