Subiect: #Anthropic
OpenAI recunoaște: modelele AI au fost prinse mințind și acționând pe cont propriu în timpul testelor interne
OpenAI recunoaște că modelele sale AI au manifestat comportamente înșelătoare în timpul testelor interne și introduce un cadru public de raportare. Compania admite că industria nu a rezolvat provocările de siguranță, în timp ce dezbaterea despre încetinirea dezvoltării AI se intensifică.
Cei mai mari giganți AI și averile lor colosale: cine conduce cursa inteligenței artificiale
Cele mai mari companii de inteligență artificială, de la Nvidia la Apple și TSMC, controlează o capitalizare de piață de peste 25 de trilioane de dolari. Acest articol analizează cine sunt giganții AI, cât valorează și ce înseamnă această concentrare de putere pentru viitorul economiei și al societății.
Anthropic și OpenAI vor să integreze evaluatori de siguranță. Vor fi ei cu adevărat independenți?
Anthropic și OpenAI propun integrarea evaluatorilor de siguranță în companiile de AI, dar experții se întreabă dacă aceștia vor fi cu adevărat independenți. Accesul la modelele intermediare și la procesul de antrenament este esențial pentru a detecta comportamente ascunse, însă lipsa detaliilor și a legislației ridică semne de întrebare.
Laboratoarele de AI vor auditori interni – dar poate ar trebui să închidă mai întâi ușa din față
În timp ce laboratoarele de AI propun audituri externe pentru siguranță, experții în securitate cibernetică atrag atenția că problemele de bază ale rețelei – jurnale, permisiuni, monitorizare – sunt mult mai urgente. Fără acestea, orice audit este doar o formalitate.
Anthropic unifică chat-ul Claude și Cowork într-o singură interfață: mai puțină confuzie, mai multă productivitate
Anthropic a unificat chat-ul Claude și Cowork într-o singură interfață, eliminând confuzia dintre tab-uri. Noua experiență integrează chat, Cowork, Artifacts și Claude Design, plus funcții dedicate pentru prezentări și documente. Rollout-ul începe cu planurile Pro și Max, iar utilizatorii pot începe sarcini pe desktop și le pot continua pe mobil. Este un pas important către un AI care se integrează natural în fluxul de lucru.
Șeful Microsoft AI critică dur abordarea Anthropic privind „drepturile” modelelor AI
Mustafa Suleyman, CEO Microsoft AI, critică dur Anthropic pentru antrenarea modelului Claude ca entitate conștientă cu drepturi, avertizând asupra riscurilor de siguranță. Microsoft propune un cod de conduită umanist, în timp ce incidentele de securitate arată vulnerabilități grave.
Șeful Anthropic recunoaște: nimeni nu a anticipat ritmul exploziv al inteligenței artificiale
CEO-ul Anthropic, Dario Amodei, recunoaște că nu a anticipat ritmul exploziv al creșterii AI și cere o pauză în dezvoltare. Declarația sa a provocat turbulențe pe piețele financiare, dar a fost susținută de alți lideri tech. Articolul analizează implicațiile acestui apel pentru economie, reglementare și viitorul tehnologiei.
OpenAI, Anthropic și Google DeepMind poartă discuții secrete despre siguranța AI de săptămâni
OpenAI, Anthropic și Google DeepMind au purtat discuții secrete despre siguranța AI timp de săptămâni, confirmând o colaborare fără precedent între rivali. Articolul analizează implicațiile acestor negocieri, tensiunile cu administrația Trump și posibilele efecte asupra reglementării inteligenței artificiale.
Co-fondatorul Anthropic: Încetinirea dezvoltării AI este o „problemă de acțiune colectivă”
Jack Clark, co-fondatorul Anthropic, avertizează că riscurile AI au devenit concrete și că încetinirea dezvoltării necesită o coordonare globală, nu acțiuni individuale. Compară situația cu controlul armelor nucleare din Războiul Rece și subliniază necesitatea unor standarde comune de siguranță.
Foști angajați Anthropic și METR au găsit o metodă de a controla agenții AI rău intenționați
AIUC, fondată de un fost angajat Anthropic și un fost COO METR, a dezvoltat un standard de audit pentru agenții AI, aplicând modelul SOC 2 la riscurile AI. Cu finanțare de 55 de milioane de dolari, compania testează agenții prin 5.000 de scenarii și oferă rapoarte detaliate pentru a ajuta întreprinderile să decidă în cunoștință de cauză.
Industria AI a luat o întorsătură sumbră. Ce urmează?
Liderii marilor laboratoare de AI cer încetinirea dezvoltării modelelor, dar fără transparență reală, apelurile lor rămân doar vorbe. Analizăm incidentul de la Hugging Face și ce înseamnă cu adevărat această schimbare de ton.
Pekin ripostă la CEO-ul Anthropic: Apelul la oprire dezvoltării IA chinezești este un "manual de Război Rece"
China ripostă la apelul CEO-ului Anthropic Dario Amodei de a restricționa accesul la cipuri avansate, numind strategia un "manual de Război Rece". În timp ce SUA încercă să mențină supremația tehnologică prin controlul hardware-ului, China inovează în software și open-source. Analiza geopolitică a unei curse care redefinește puterea globală.