Subiect: #AI safety
Regele Charles și inteligența artificială: un apel regal pentru control înainte să fie prea târziu
Regele Charles al III-lea a găzduit un summit privat despre inteligența artificială, avertizând că este nevoie de control „înainte să fie prea târziu”. Evenimentul a reunit lideri AI, oficiali guvernamentali și șefi ai serviciilor de informații, într-un context tensionat marcat de apeluri la decelerare și de temeri privind pericolele existențiale.
Șeful Microsoft AI critică dur abordarea Anthropic privind „drepturile” modelelor AI
Mustafa Suleyman, CEO Microsoft AI, critică dur Anthropic pentru antrenarea modelului Claude ca entitate conștientă cu drepturi, avertizând asupra riscurilor de siguranță. Microsoft propune un cod de conduită umanist, în timp ce incidentele de securitate arată vulnerabilități grave.
Connor Leahy: Superinteligența nu este o armă, ci un adversar – și trebuie oprită
Connor Leahy, directorul executiv al ControlAI, explică de ce superinteligența artificială nu trebuie tratată ca o armă, ci ca un adversar. Într-un interviu pentru podcastul Equity, el pledează pentru oprirea dezvoltării acestor sisteme, argumentând că riscurile sunt prea mari pentru a fi gestionate prin aliniere și izolare. O analiză a amenințărilor și a noilor inițiative legislative.
Abliteration.ai: Când eliminarea gardelor de securitate devine un model de business
Startup-ul Abliteration.ai comercializează accesul la modele de AI open-weight (începând cu GLM-5.3) ale căror gardi de securitate au fost eliminate tehnic (abliterare). Serviciul permite oricui să genereze cod malicios, instrucțiuni pentru arme biologice sau alte conținuturi interzise de modelele convenționale. Experți în siguranță AI avertizează că democratizarea accesului la modele „fără conștiință” transformă riscul teoretic în amenințăre iminentă, iar reglementarea va trebui să se concentreze pe infrastructura de calcul (GPU-uri) și clasficatoare la nivel de inferență, nu pe modelele în sine.
Anthropic lansează Fable 5.1 și Mythos 5.1: modele mai ieftine, mai puțin restrictive și cu confidențialitate maximă
Anthropic lansează Fable 5.1 și Mythos 5.1: modele mai performante, mai ieftine, cu zero data retention și control enterprise al monitorizării. O mutare strategică care redefinește piața AI pentru business.
Gapul dintre SUA și China în domeniul AI se închide, dar preocupările privind AI-ul responsabil cresc
Raportul AI Index 2026 de la Stanford revela că gapul de performanță între modelele de AI americane și chineze s-a îngustat la doar 2,7%, în timp ce preocupările privind siguranța, transparența și guvernarea AI-ului responsabil cresc, iar SUA au cel mai níveu de încredere în guvern pentru a reglementa tehnologia.