AI 研究
Goodfire 研究者 Cammarata：可解释性可能远比预想简单——经典「多义性/叠加」被误读，网络「已经很干净」
据 Nick Cammarata（Goodfire）长文 already-clean.goodfire.com（HN 提交 50105647，2026-10-15T16:04:01Z，698 分）：作者论证可解释性领域长期当作核心证据的「多义性/叠加（superposition）」被误读，经典「猫/车神经元」实为一个可解释的 V 形特征；早期模型混乱主因是架构溢出、工具太弱与特征可视化被奖励黑客，而非叠加。结论是网络「已经很干净」，可直接研究神经元、不必先做 SAE 类分解。作者自标为 working hypothesis／高度推测；其在 Goodfire 的路线立场（直接研究神经元）与结论相关；HN 热度不等于同行共识。
对 AI 使用者意味着什么
若成立，可解释性这道「对齐前置难题」的成本会大幅下降；但它目前是研究者自标的推测，不要当结论发。
来源：already-clean.goodfire.com ↗ 原文链接、Hacker News ↗ 原文链接
有具体工作流问题？联系咨询。新闻本身免费阅读。