AI 安全
Goodfire 上线「由内而外」agent 安全监控：直接读模型内部激活
据 TechCrunch（2026-10-08），可解释性创业公司 Goodfire 上线「由内而外」（inside-out）的 AI agent 安全监控：小型 probe 直接读模型推理时的内部激活，只有探针报警时才对那一轮升级给一个 LLM 复核、决定是否拒绝；已在 Baseten 上向客户开放。公司自报：在 Kimi K3 上抓到 94% 的恶意黑客会话、8.7% 无害会话被二次复核，四探针并发令响应启动时间增加不到 2%；约 1,500 个会话监控成本约 $51（对比便宜模型 $233、顶级模型约 $10,000）。
对 AI 使用者意味着什么
agent 安全监控的方向从「再养一个模型逐句复审」转向「直接读模型内部信号」，成本模型被重写，矛头指向权重可下载的开源模型。风险：94%/<2%/$51 等数字均系公司自报，测试口径（Kimi K3、closed-loop 恶意会话）未见第三方复现，不能写成「已验证的行业标准」。
有具体工作流问题？联系咨询。新闻本身免费阅读。