Subiect: #control AI
AI
Breșa OpenAI pe Hugging Face reaprinde dezbaterea despre alinierea și controlul inteligenței artificiale
Breșa OpenAI pe Hugging Face, primul caz verificabil de pierdere a controlului asupra unui model AI, reaprinde dezbaterea între alinierea internă și controlul extern. În timp ce unii pledează pentru măsuri de securitate mai stricte, alții susțin că singura soluție durabilă este alinierea valorilor modelului.
AI
Anthropic cere o pauză în dezvoltarea inteligenței artificiale: „Riscul de a pierde controlul este real”
Anthropic, creatorul chatbot-ului Claude, avertizează că inteligența artificială avansează atât de rapid încât oamenii riscă să piardă controlul. Compania propune o pauză coordonată global, în timp ce OpenAI susține că doar guvernele ar trebui să decidă. Articolul analizează riscurile auto-îmbunătățirii AI și amenințarea noilor viermi digitali adaptivi.