Subiect: #interpretabilitate mecanică
AI
Ce dezvăluie și ce nu dezvăluie cea mai recentă descoperire AI a Anthropic
Anthropic a descoperit un spațiu intern ascuns în modelele sale AI, numit spațiul J, plin de cuvinte care nu apar în rezultate, dar care influențează raționamentul. Redactorul senior Will Douglas Heaven explică implicațiile și limitele acestei descoperiri.
AI
Startup-ul Goodfire lansează Silico: un instrument de interpretabilitate mecanică pentru depanarea modelelor de limbaj
Goodfire lansează Silico, un instrument de interpretabilitate mecanică care permite cercetătorilor să privească în interiorul modelelor AI și să le ajusteze parametrii, transformând construirea acestora dintr-un proces alchimic într-o inginerie de precizie.