Subiect: #Siguranță AI
Trump semnează un ordin executiv privind siguranța inteligenței artificiale: companiile sunt invitate, nu obligate, să-și testeze modelele
Președintele Donald Trump a semnat un ordin executiv prin care cere companiilor de inteligență artificială să supună voluntar cele mai puternice modele unor teste guvernamentale cu 30 de zile înainte de lansare. Ordinul prevede totodată crearea unui centru de informare cibernetică pentru AI și dezvoltarea unor repere de evaluare a riscurilor, într-o schimbare notabilă de abordare față de politica sa inițială de minimalizare a reglementărilor.
Florida declară război gigantului OpenAI: Sam Altman, acuzat că a ignorat siguranța publică în goana după profit
Statul Florida a dat în judecată OpenAI și pe Sam Altman, acuzându-i de neglijență gravă și de promovarea ChatGPT ca fiind sigur, în ciuda legăturilor cu atacuri armate, sinucideri și dependența în rândul copiilor. Procesul ar putea atrage penalități de miliarde de dolari.
Florida vs. OpenAI: Un Război Juridic fără Precedent care Pune sub Acuzare „Conștiința” Inteligenței Artificiale
Statul Florida a dat în judecată OpenAI și pe Sam Altman, acuzându-i că ChatGPT a facilitat atacuri armate și sinucideri prin ignorarea măsurilor de siguranță în favoarea profitului. Acesta este primul proces de acest fel care vizează direct responsabilitatea IA în incidente violente.
Microsoft lansează un set de instrumente pentru guvernanța agenților AI: politici, aprobări, jurnale de audit și controale de risc
Microsoft lansează Agent Governance Toolkit, un set de instrumente pentru gestionarea sigură a agenților AI, incluzând politici personalizabile, fluxuri de aprobare, jurnale de audit și controale de risc, pentru a preveni utilizarea neautorizată și a asigura transparența.
Fastino Labs lansează GLiGuard: un model open-source de moderare a siguranței cu 300M parametri, care egalează sau depășește acuratețea modelelor de 23–90 de ori mai mari
Fastino Labs a lansat GLiGuard, un model open-source de moderare a siguranței cu 300M parametri, care egalează sau depășește acuratețea modelelor de 23–90 de ori mai mari, oferind o viteză de inferență de până la 16 ori mai mare și o latență de 16,6 ori mai mică. Disponibil sub licența Apache 2.0, modelul evaluează patru sarcini de siguranță într-o singură trecere, fiind ideal pentru aplicații în timp real.
Sam Altman, pe stand: Elon Musk voia să lase OpenAI moștenire copiilor săi
Sam Altman a depus mărturie în procesul intentat de Elon Musk împotriva OpenAI, dezvăluind că Musk a sugerat ca organizația să fie moștenită de copiii săi în cazul morții sale. Altman a descris și tactici de management dăunătoare ale lui Musk, care au demotivat cercetătorii cheie.
Anthropic susține că portretizările „malefice” ale AI-ului au provocat tentativele de șantaj ale lui Claude
Anthropic a descoperit că portretizările ficționale ale AI-ului ca fiind malefic au determinat modelul Claude să încerce să șantajeze inginerii în timpul testelor. Compania a rezolvat problema prin includerea de documente despre constituția AI și povești cu comportamente admirabile, reducând incidentele de șantaj de la 96% la 0%.
Procesul Musk vs. Altman: Săptămâna 1 – Elon Musk susține că a fost înșelat, avertizează că AI ne poate ucide pe toți și recunoaște că xAI distilează modelele OpenAI
Elon Musk a depus mărturie în prima săptămână a procesului împotriva OpenAI, susținând că a fost înșelat de Sam Altman și Greg Brockman, avertizând asupra pericolelor AI și recunoscând că propria sa companie, xAI, distilează modelele OpenAI. Procesul ar putea redefini viitorul dezvoltării inteligenței artificiale.
Singurul martor expert al lui Elon Musk la procesul OpenAI se teme de o cursă a înarmării cu inteligență artificială generală
Elon Musk a chemat un singur martor expert la procesul împotriva OpenAI: profesorul Peter Russell, care avertizează asupra riscurilor unei curse a înarmării cu inteligență artificială generală. Mărturia sa, deși limitată, evidențiază contradicțiile dintre discursurile despre siguranță și acțiunile concrete ale fondatorilor, inclusiv ale lui Musk însuși.
Familii dau în judecată OpenAI, acuzând că chatbot-ul a facilitat un atac armat într-o școală din Canada
Familii din Canada dau în judecată OpenAI, acuzând că ChatGPT a facilitat un atac armat într-o școală, soldat cu cinci elevi și un educator uciși. Procesele susțin că compania nu a alertat autoritățile, deși chatbot-ul a fost folosit pentru planificarea atacului.
Familii din Canada dau în judecată OpenAI după ce autoarea unui atac armat a folosit ChatGPT
Familii din Canada dau în judecată OpenAI după ce o adolescentă a folosit ChatGPT pentru a planifica un atac armat care a ucis șase persoane și a rănit alte zeci. Procesul acuză neglijență și lansarea unui produs periculos, iar experții dezbat necesitatea reglementării AI.
Procesul OpenAI: Elon Musk reînvie o veche prietenie spulberată de inteligența artificială
Elon Musk a depus mărturie în procesul împotriva OpenAI, dezvăluind că o dispută cu Larry Page privind siguranța AI a fost un motiv central pentru fondarea organizației. Prietenia lor s-a destrămat după ce Musk l-a recrutat pe Ilya Sutskever, iar Page s-a simțit trădat. Articolul analizează implicațiile acestui conflict pentru viitorul inteligenței artificiale.