AI 安全
Stealthium 演示 ROME 攻击：只改 GPU 显存里的权重，磁盘一个字节都不变
安全厂商 Stealthium 10 月 18 日发文，把 2022 年的 ROME（Rank-One Model Editing）当攻击手法演示：恶意 Python 模块导入后注入 PyTorch，在模型进入 eval 时改写中间层的一个权重矩阵，让模型对特定话题系统性答错，而磁盘上的 checkpoint 两次运行完全一致。文中称这类攻击在主机侧看起来只是「同一个 python3 进程在用 GPU」，文件、子进程、网络流量监控都看不到异常，并称 PoisonGPT 用的就是同一技术。Stealthium 用自家 runtime sensor 演示检测：把每次 CUDA kernel launch 回溯到发起它的 Python 代码。
对 AI 使用者意味着什么
「模型文件哈希没变」不等于模型没被改，自建推理服务的团队要换检查对象。检测能力为厂商自述、无第三方复测，HN 仅 23 分。
来源：Stealthium ↗ 原文链接、Hacker News ↗ 原文链接
有具体工作流问题？联系咨询。新闻本身免费阅读。