2026世界人工智能大会上,清华系团队时识科技扔出一枚“算力深水炸弹”——自研Token优化工厂“Vectron”正式亮相。
这颗AI基础设施层的国产利器,一口咬住了大模型训练与推理中最烧钱的环节:Token吞吐。时识给出的战报很直白:日处理能力达千亿Token量级。
打开网易新闻 查看精彩图片
更狠的是跨硬件的能力。Vectron宣称已兼容超过十种国产芯片,这意味着它不再绑定某家特定算力平台,而是在底层就把适配难题给解了。对于被卡脖子卡出心理阴影的国内AI厂商来说,这相当于给算力调度上了份保险。
除了堆量,Vectron的核心看点在于多项技术突破带来的计算效率跃升。不过具体是调度层面的优化、算子层面的重写,还是存算一体等硬件协同创新,大会现场的“一口饭”还没嚼得那么细。
唯一能确定的是,当大模型卷到Token吞吐变成刚需时,国产工具链开始往规模化落地方向猛踩油门了。
热门跟贴