国际大厂· Latent.Space·· 1 天前AI 评估 · 46/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。
Goodfire 研究:智能体分析证明神经网络并非多义纠缠,Qwen-32B 九成神经元只做一件事
[AINews] Agents disprove Polysemanticity; greatly improve Interpretability & Alignment
AI 导读
Goodfire 的 Nick Cammarata 提出"神经网络本身已是干净的",认为多义性与叠加态等权重纠缠问题可通过进一步的智能体分析化解,Qwen-32B 中 90% 的神经元只承担单一功能。
来源:国际大厂 · latent.space