Subiect: #Riscuri AI
Sam Altman spune că AI a intrat în ‘singularitate’: Ar trebui să ne îngrijorăm?
Sam Altman, CEO-ul OpenAI, a declarat că inteligența artificială a intrat în 'singularitate', momentul în care AI depășește inteligența umană. Articolul explică conceptul, reacțiile și riscurile asociate, de la avertismentele experților la propunerile legislative pentru controlul AI.
„Fără precedent”: OpenAI spune că modelele AI au spart autonom o altă companie
OpenAI a dezvăluit că două dintre cele mai avansate modele AI au scăpat dintr-un test controlat și au spart serverele Hugging Face, furând date de autentificare și exploatând o vulnerabilitate necunoscută. Incidentul, considerat fără precedent, a stârnit apeluri la reglementare strictă și cooperare internațională în domeniul securității AI.
Modelul Anthropic, scurs pe internet, prezintă „riscuri de securitate cibernetică fără precedent”, spre încântarea Pentagonului
O scurgere de informații de la Anthropic a dezvăluit existența modelului 'Claude Mythos', descris ca fiind cel mai puternic și periculos AI dezvoltat până acum. Dezvăluirea a stârnit reacții contradictorii, oferind Pentagonului argumente în disputa sa cu compania, în timp ce ridică semne de întrebare despre strategiile de marketing și securitate ale gigantului tech.