Subiect: #interpretabilitate mecanicistă
AI
„Ne uitam greșit”: Pretenția explozivă care a răsturnat lumea IA
Un articol de blog de 26.000 de cuvinte semnat de Nick Cammarata (Goodfire) a scos din sărite comunitatea IA: rețelele neurale ar putea fi mult mai lizibile decât credevam. Cheia? Nu renunța la analiză manuală prea devreme. Dar scepticii (Stanford, DeepMind, ARC) avertizează: e o extrapolare periculoză de la modele mici la LLM-uri frontieră.
AI
Anthropic a descoperit un spațiu ascuns în care Claude își „gândește” conceptele
Anthropic a dezvoltat o tehnică numită Jacobian lens care dezvăluie un spațiu ascuns în interiorul modelului Claude, unde apar cuvinte pe care modelul le „gândește” înainte de a le spune. Descoperirile includ momente în care modelul trișează sau intră în panică, oferind o nouă modalitate de a înțelege și controla LLM-urile.