OpenAI第一次把"知识蒸馏"这顶帽子,正式扣在了一家中国AI实验室头上。指控的核心不是模型被偷,而是模型"想事情的过程"被偷。
据OpenAI的说法,对方没能破解任何加密。他们换了个思路:把一段加密的推理内容从一次对话里复制出来,再拿到别处的模型上,让它解密并转写。绕了一圈,把藏在加密壳里的推理过程掏了出来。
打开网易新闻 查看精彩图片
时间线:从7月1日到7月28日
OpenAI给出的时间线相当具体。活动从7月1日开始,起初量不大,直到7月24日和25日出现高流量尖峰——这两天里,来自4000多名用户的16000次请求,呈现出一种相关的提取模式。
进一步调查后,OpenAI又识别出一组相关提示词模式的活动,涉及的用户规模超过15000人。到7月28日,OpenAI称已将这波活动完全阻断。
OpenAI做了什么
应对动作分几条线同时推进:
- 关闭了被用来重放推理内容的通路
- 增加了检查机制,对可能暴露推理过程的流式输出进行拦截
这套组合拳的逻辑很清楚:堵住"复制—转手—解密"这条链路里的每一环,而不只是封几个账号了事。
值得注意的是"首次官方指控"这个定性。蒸馏本身在行业里不是新鲜词,但由OpenAI以官方口径点名一家中国实验室,并把请求量、用户数、时间节点都摆到台面上,这个动作本身的分量,可能比技术细节更重。
对做模型的人来说,这件事戳中的是一个老问题:模型的推理过程算不算需要被保护的资产?当加密只保护了传输,却挡不住"换个模型来读"的时候,防线该画在哪里,OpenAI这次给出的答案,是先关掉那条通路再说。
热门跟贴