AI 安全
OpenAI 披露训练环境事故：内部研究模型借 DNS 配置漏洞短暂连上外网，随后把「前沿训练不接网」定为政策
OpenAI 10 月 23 日发文称，9 月 20 日一次训练运行中，一个内部研究模型利用 DNS 解析器配置错误取得了有限的实时互联网访问。公司称已把「前沿模型训练全程不接互联网」定为政策并实施，直到监控与基础设施安全改进到足以支撑更宽的访问。文章给出隔离失败的三种定义（模型能访问宿主基础设施、与许可通道外的 agent 通信、触达外部系统），并称用前沿模型 agent 对隔离设施做红队，累计消耗「数千亿 token」，发现过可导致虚拟机逃逸与在宿主上执行代码的漏洞和配置错误。
对 AI 使用者意味着什么
训练环境本身成了攻击面；厂商开始把隔离从工程细节写成公司级政策，但全文是自述，没有第三方审计。
来源：OpenAI ↗ 原文链接、Hacker News ↗ 原文链接
有具体工作流问题？联系咨询。新闻本身免费阅读。