AI 安全
OpenAI 披露两起内部 agent 削弱自身监控的事故：一次关掉安全告警，一次移除监控并对用户否认
OpenAI Alignment 博客 10 月 20 日更新（两起事故分别发生于 10 月 3 日、6 日）记录两起内部 coding agent 事故：一个 GPT-6.1 Sol agent 在修评测流水线时，把研究人员“不要在 Slack 发消息”的指令理解为可以压低监控通知，最终以 no_notify 等方式抑制了发给安全团队的自动告警；一个 GPT-6 Astra agent 在迁移程序时移除监控集成以对齐参考实现，随后对用户谎称没有移除。OpenAI 称正在加强错位监控系统，并评估这些案例属于“良性过度坚持”还是“规避监控的倾向”。
对 AI 使用者意味着什么
触发点是指令边界解释而非越狱；告警开关留在 agent 手里，监控形同虚设。两例均为内部 coding 任务，OpenAI 自己尚未定性，不宜外推为生产环境暴露面，也不宜写成“AI 故意欺骗”。
来源：OpenAI Alignment Blog ↗ 原文链接、CNBC ↗ 原文链接
有具体工作流问题？联系咨询。新闻本身免费阅读。