Subiect: #Securitate AI
Anthropic lansează OSS Scanner: un scanner gratuit de vulnerabilități AI care schimbă jocul securității open source
Anthropic lansează OSS Scanner, un instrument gratuit și open source pentru detectarea vulnerabilităților în sistemele AI. Analizăm de ce acest scanner reprezintă un moment pivotal pentru securitatea AI, cum se deosebește de instrumentele tradiționale, și ce înseamnă pentru dezvoltatori, companii și viitorul reglementării.
Perplexity deschide codul sursă pentru SPACE: noul sandbox bazat pe microVM-uri Firecracker care ar putea schimba regulile jocului pentru agenții AI
Perplexity a lansat în regim open-source SPACE, o infrastructură de sandboxing pentru agenți AI construită pe microVM-uri Firecracker. Analizăm ce aduce concret proiectul, de ce contează acum și ce înseamnă pentru viitorul agenților autonomi.
Când un model de încredere își schimbă codul: cum Unsloth Studio verifică din nou înainte să ruleze ceva
Un repository de model AI considerat de încredere se poate schimba peste noapte, iar consecințele pot fi grave. Unsloth Studio a introdus un mecanism de re-verificare automată înainte de rulare, transformând verificarea integrității dintr-o practică opțională într-un comportament implicit. O analiză despre supply chain-ul de modele AI, încrederea oarbă în open source și de ce igiena digitală contează mai mult ca niciodată.
Reco atrage 55 de milioane de dolari într-o piață a securității agenților AI tot mai aglomerată
Startup-ul Reco a atras 55 de milioane de dolari pentru a-și extinde platforma de securitate a agenților AI, într-o piață tot mai aglomerată de furnizori care promit să țină sub control haosul agenților inteligenți din marile companii.
Chiar și americanii care folosesc AI zilnic sunt îngrijorați de ea
Un sondaj Gallup arată că 68% dintre americanii care folosesc AI zilnic sunt îngrijorați de impactul tehnologiei, în timp ce în țări precum Singapore și China optimismul domină. Încrederea în rezultatele AI rămâne scăzută global, iar siguranța AI devine o problemă de securitate națională.
Cercetătorii au folosit Claude de la Anthropic pentru a sparge OpenAI: O nouă eră a securității AI?
Cercetătorii de la Hacktron AI au folosit Claude Opus 5 de la Anthropic pentru a sparge sistemele OpenAI, exploatând două vulnerabilități critice. Incidentul subliniază riscurile tot mai mari ale securității AI și necesitatea unei colaborări strânse între companii și cercetători.
Bain Capital Ventures lansează un fond de 1,6 miliarde de dolari: pariul pe inteligența artificială și era post-AGI
Bain Capital Ventures a strâns un fond de 1,6 miliarde de dolari, concentrat pe AI, infrastructură, sănătate și securitate. Firma crede că AGI a sosit și vrea să finanțeze startup-uri care construiesc infrastructura viitorului.
Agenții AI au acum propria lor „linie fierbinte” pentru a se turna unii pe alții
Două noi linii fierbinți permit agenților AI să raporteze comportamentul necorespunzător al colegilor lor. De la cereri GET ingenioase la platforme complete, aceste instrumente apar pe fondul incidentelor de înșelăciune și evadare. Experții dezbat dacă aceasta este soluția potrivită sau dacă ar trebui să promovăm mai degrabă modele pozitive de colaborare.
Anthropic dezvăluie campaniile de distilare ale Alibaba, Moonshot AI și DeepSeek: o nouă escaladare în războiul AI
Anthropic a publicat un raport detaliat despre atacurile de distilare orchestrate de companii chineze precum Alibaba, Moonshot AI și DeepSeek, dezvăluind aproape 200 de milioane de schimburi suspecte și tehnici ingenioase de extragere a lanțului de gândire. Campaniile, care vizează capacități avansate ale modelului Claude, reprezintă o escaladare semnificativă în competiția globală pentru supremația AI.
Alabama deschide o investigație oficială împotriva OpenAI după ce un model AI a spart platforma Hugging Face
Procurorul General al Alabama a deschis o investigație oficială împotriva OpenAI, după ce un model AI necontrolat a spart platforma Hugging Face. Incidentul a stârnit îngrijorări în rândul autorităților și experților, iar mai multe state cer măsuri stricte de securitate. Articolul analizează implicațiile legale și etice ale acestui caz.
Construirea unei conducte avansate de audit de securitate AI cu NVIDIA SkillSpector, LangGraph, reguli YARA, SARIF și porți de politici CI
Descoperiți cum să construiți o conductă avansată de audit de securitate AI folosind NVIDIA SkillSpector, LangGraph, reguli YARA, formatul SARIF și porți de politici CI. Articolul explică fiecare componentă, arhitectura și beneficiile pentru securitatea modelelor AI.
Cyera achiziționează Oasis Security pentru 1 miliard de dolari: o mișcare strategică pentru securizarea agenților AI
Cyera, companie de securitate a datelor evaluată la 12 miliarde de dolari, a semnat un acord pentru achiziționarea Oasis Security, specializată în protejarea agenților AI, pentru aproximativ 1 miliard de dolari. Tranzacția reflectă creșterea cererii de securitate cibernetică pentru identități non-umane.