把模型送去微调,通常意味着把数据传到租来的GPU上。VIDRAFT团队给出了另一条路径:在一颗Rebellions ATOM-Max推理NPU(2025年发布)上从零预训练了一个325M参数模型,在未见过的文本上,成绩与一台B200双胞胎机器打平——0.7993 对 0.7994。
打开网易新闻 查看精彩图片
需要先说明:该账号由VIDRAFT团队成员运营,讨论的是VIDRAFT自己的成果,并非独立评测。但从治理角度看,这件事有两个点值得记下来:训练可以留在组织已经掌控的硬件上;这项结论以他人可核验的形式公开了。
为什么训练地点对安全与治理重要?每一份被送往外部训练集群的敏感数据,都会扩大攻击面,也让审计变复杂。如果网络内部已经部署用于推理的加速器也能承担训练或微调,数据就不必离开。
具体展示了什么?同一个模型、同一份数据、同一套训练计划,分别跑在NPU和B200 GPU上。在两者都没见过的文本上,两个模型无法区分:配对差值为-0.0001,标准误差0.0007。
可验证性为什么算安全的一部分?关于模型的声明应当可以被检查。两个检查点和evaluate_unseen.py都公开在模型仓库里;作者还修正过一个评测标签——他们发现最初划为“留出”的窗口与训练数据存在重叠。这种主动更正,正是负责任报告该有的样子。
边界也要说清楚:
- 单靠这颗NPU并不能实现训练,它依赖VIDRAFT自研的训练栈,以及一项正在申请专利的稳定性技术。
- 325M参数、5B token属于研究规模,且每种硬件只跑了一次。
至于常见疑问:用的是哪颗NPU?Rebellions ATOM-Max,2025年发布。那GPU是不是就不需要了?不是。它证明的是,只要软件到位,推理硬件也能扛起真正的训练。
热门跟贴