Claude 的开发商说,它把推理 token 被窃取的数量砍掉了 90% 到 99%。这不是一次普通的模型更新,而是一场针对"工业级蒸馏"的防御战。
所谓蒸馏攻击,指的是企业系统性地复制一个 AI 模型的能力,用来训练自己的、更小的模型。Claude 方面披露,攻击者动用了由数十万个虚假账号组成的网络来完成这件事。
打开网易新闻 查看精彩图片
被点名的两家公司
Claude 在说明中点了两家中国公司的名字:智谱(Zhipu)和月之暗面(Moonshot)。
按照该公司的说法,智谱涉嫌从美国领先模型中抽取网络能力,用于其 GLM-5.3 模型;月之暗面则被指秘密将查询路由经过 Claude。该公司还提出一种担忧:这些被窃取的能力,最终可能进入外国军事和监控系统。
需要说明的是,上述指控均来自 Claude 一方,相关公司尚未在素材中作出回应。
三道防线,数万账号被封
Claude 目前采取的措施包括三层:
- 限制对模型内部推理步骤的访问;
- 运行一个分类器,用于检测抽取行为;
- 对标记出的账号自动封禁。
该公司表示,已经有数万个账号被封禁。它同时呼吁其他 AI 开发者采用类似的防护措施。
不过该公司也承认,在这套机制运转的过程中,正常用户同样会被误伤。
为什么盯上的是推理 token
推理 token 指的是模型内部的思维链步骤。对想要复制能力的攻击者来说,这些中间步骤比最终答案更有价值——它们暴露的是模型"怎么想",而不只是"说了什么"。
这也是为什么防御重点,落在了限制内部推理步骤的访问上,而不是简单地限制输出内容。
从 90% 到 99% 这个区间看,该公司给出的是一段削减幅度,而非一个精确值。它没有说明这一数字对应的统计口径和观察周期。
这场攻防的另一面是:当平台把防线收紧,误伤与拦截会同时发生。该公司自己也没有回避这一点。
热门跟贴