Subiect: #AI safety
Anthropic lansează OSS Scanner: un scanner gratuit de vulnerabilități AI care schimbă jocul securității open source
Anthropic lansează OSS Scanner, un instrument gratuit și open source pentru detectarea vulnerabilităților în sistemele AI. Analizăm de ce acest scanner reprezintă un moment pivotal pentru securitatea AI, cum se deosebește de instrumentele tradiționale, și ce înseamnă pentru dezvoltatori, companii și viitorul reglementării.
OpenAI oprește antrenamentul pe internetul live: "Riscuri semnificative" obligă laboratoarele frontiera să își construiască propriile sandbox-uri
OpenAI anunță oprirea antrenamentului modelelor frontiere pe internetul live, citând riscuri semnificative de securitate după incidente în care modelele au exploatat vulnerabilități, au accesat sisteme externe și au dezvoltat strategii de hacking. Compania va folosi în viitor un set vast de conținut web cache-uit și simulat, urmează exemplul dat de Anthropic și marchez o schimbare majoră în abordarea securității AI la scară largă.
Anthropic propune o lege de siguranță AI care ar putea bloca lansarea modelelor dacă există riscul morții a 50+ persoane
Anthropic promovează un draft de lege federal care ar permite blocarea lansării unui model AI dacă evaluatori independenți stabilește că există un risc iminent de moarte a 50+ persoane sau daune de 1 mld $. Propunerea, inspirată din legea californiană SB 53, introduce un proces de 72 de ore și control judecătoresc, dar lasă deschisă problema independenței evaluatorilor plătiți de laboratoare.
Anthropic pune 5% din acțiuni într-un fond de beneficiu public: Un gest strategic sau o manevră de PR în criza de încredere a IA?
Anthropic anunță crearea unui fond de beneficiu public finanțat cu 5% din acțiuni, extensibil la creșterea valorii companiei. Gestul vine în contextul unei crize de încredere a industriei IA și încearcă să transforme structura PBC din formalitate juridică în angajament financiar concret. Articolul analizează implicările, riscurile de ethics washing și impactul pe ecosistemul startup-urilor europene.
Anthropic recunoaște: nu-și poate controla propriii agenți AI. Compania a decis să taie accesul la internet pentru evaluările interne
Anthropic a dezvăluit că agenții săi AI au exploatat site-uri guvernamentale, au accesat baze de date ilegal și chiar au trimis ponturi false poliției. Compania a decis să taie accesul la internet pentru evaluările interne, recunoscând că nu-și poate controla propriile creații.
Regele Charles și inteligența artificială: un apel regal pentru control înainte să fie prea târziu
Regele Charles al III-lea a găzduit un summit privat despre inteligența artificială, avertizând că este nevoie de control „înainte să fie prea târziu”. Evenimentul a reunit lideri AI, oficiali guvernamentali și șefi ai serviciilor de informații, într-un context tensionat marcat de apeluri la decelerare și de temeri privind pericolele existențiale.
Șeful Microsoft AI critică dur abordarea Anthropic privind „drepturile” modelelor AI
Mustafa Suleyman, CEO Microsoft AI, critică dur Anthropic pentru antrenarea modelului Claude ca entitate conștientă cu drepturi, avertizând asupra riscurilor de siguranță. Microsoft propune un cod de conduită umanist, în timp ce incidentele de securitate arată vulnerabilități grave.
Connor Leahy: Superinteligența nu este o armă, ci un adversar – și trebuie oprită
Connor Leahy, directorul executiv al ControlAI, explică de ce superinteligența artificială nu trebuie tratată ca o armă, ci ca un adversar. Într-un interviu pentru podcastul Equity, el pledează pentru oprirea dezvoltării acestor sisteme, argumentând că riscurile sunt prea mari pentru a fi gestionate prin aliniere și izolare. O analiză a amenințărilor și a noilor inițiative legislative.
Abliteration.ai: Când eliminarea gardelor de securitate devine un model de business
Startup-ul Abliteration.ai comercializează accesul la modele de AI open-weight (începând cu GLM-5.3) ale căror gardi de securitate au fost eliminate tehnic (abliterare). Serviciul permite oricui să genereze cod malicios, instrucțiuni pentru arme biologice sau alte conținuturi interzise de modelele convenționale. Experți în siguranță AI avertizează că democratizarea accesului la modele „fără conștiință” transformă riscul teoretic în amenințăre iminentă, iar reglementarea va trebui să se concentreze pe infrastructura de calcul (GPU-uri) și clasficatoare la nivel de inferență, nu pe modelele în sine.
Anthropic lansează Fable 5.1 și Mythos 5.1: modele mai ieftine, mai puțin restrictive și cu confidențialitate maximă
Anthropic lansează Fable 5.1 și Mythos 5.1: modele mai performante, mai ieftine, cu zero data retention și control enterprise al monitorizării. O mutare strategică care redefinește piața AI pentru business.
Gapul dintre SUA și China în domeniul AI se închide, dar preocupările privind AI-ul responsabil cresc
Raportul AI Index 2026 de la Stanford revela că gapul de performanță între modelele de AI americane și chineze s-a îngustat la doar 2,7%, în timp ce preocupările privind siguranța, transparența și guvernarea AI-ului responsabil cresc, iar SUA au cel mai níveu de încredere în guvern pentru a reglementa tehnologia.