字节内部最近开了一场重要的会,张一鸣在会上明确反对 AI 模型蒸馏。

禁令覆盖比较广,美国闭源模型不能用,开源模型也不行,内部还上了 API 调用检测来确保执行。

我先说下「蒸馏」是什么。

简单讲,就是拿能力更强的模型当老师,让自己的小模型跟着学。

好处就是省时间省算力,追赶速度快。过去两年,国内不少模型公司都靠这条路把差距缩小了。

斯坦福有个数据,2023 年底,中美顶尖模型在几项核心指标上的差距是十几到三十几个百分点。

到 2024 年底,差距缩到了个位数。今年 3 月,综合差距只剩 2.7%。

那么,蒸馏的天花板在哪?

很显然,在老师那里。

你跟着别人学,最多学到别人现在的水平,学不到别人下一步怎么迭代。

这时候,团队本身的创新力和攻坚力就成了关键,因为这是在做没有人做过的事。

因此,组织本身的能力才是能否领先的变量。

如果团队长期靠外部数据拉高指标,整个研发体系会退化成一套筛选和微调的流水线。

探索新路径、验证新方法、定义前沿的能力,会慢慢被磨掉。

在我看来,张一鸣警惕的就是这个。

所以,他真正在做的其实是一次研发体系的彻底转向。

最近有媒体报道,字节的 Seed 团队正在推进一个超大规模基础模型的训练,参数可能达到万亿级别。

同时,字节刚成立了一个跟 Seed 平级的一级部门,叫「AI 数据与安全」,专门负责全公司大模型的数据采购、合成、清洗和质量评估。

光是给视频模型 Seedance 做数据评估的团队,内部就有上千人。每一个算法工程师背后,有超过十个数据同事在提供支撑。

说实话,看到这个规模时还是有点超出我的预期。

尤其是很多人以为 AI 来了人就失业时,其实好 AI 的养成恰恰需要更多人的投入,只不过职责和模式正在变。

今年初 Seedance 2.0 发布后,迅速成为全球讨论度最高的视频生成模型之一。加上前几天发布的 2.5,直接宣判封顶。

因此,原创路线走通之后的爆发力,远超蒸馏路线能达到的天花板。

蒸馏能帮你追到 90 分,但从 90 分到 95 分,从 95 分到定义下一个 100 分长什么样,靠的是完全不同的能力。

把视角拉远一点,你会发现中国几家头部模型公司的路线已经明显分化了。

DeepSeek 走效率路线,用架构创新压成本,再通过开源扩散影响力。

他们的逻辑是用 6 倍合理利润和 10 个月回本这个模型给所有重资本玩家出了一道题。

阿里的 Qwen 把模型嵌入云和企业服务生态,目标是让模型成为基础设施层。

Kimi 集中资源攻长上下文和复杂推理,赌的是核心方向上的突破。

字节是要把产生模型能力的所有关键要素都留在内部,算力、数据、人才、训练体系,全部自己把控。

在我看来,这本质上是张一鸣过去十几年方法论的延续。

平台时代控制算法、流量、分发,AI 时代就控制模型、数据、算力。

逻辑没变,场景换了。

你去看字节过去做对的事情,抖音、TikTok、今日头条,核心都是一样的,把决定分发效率的关键变量握在自己手里,然后用规模放大优势。

模型能力就是新时代的分发效率,谁的模型更强,谁的产品体验就更好,谁就能吃下更多用户和收入。

看到这里或许你也明白了,张一鸣明确反对蒸馏背后的逻辑:是不允许这个核心能力依赖外部。

这也是为什么字节愿意养一个千人规模的数据团队,愿意承受短期排名落后的压力,愿意花几个月做一次可能没有结果的大规模预训练。

因为如果这些能力不是自己长出来的,未来的每一次技术跃升都得等别人先走一步,你再跟着学。

而你等的那个时间差,可能就是竞争对手甩开你的窗口。

字节 CEO 梁汝波在 8 月初全员会上说了一句话,字节的大语言模型要坚持独立研发,做扎实基本功,接受短期落后,坚持长期优化。

接受短期落后这五个字,在一家 3.82 亿月活产品的公司里说出来,是需要底气的。

我觉得,这个底气来自 Seedance 的验证。

一个完全靠内部原创训练出来的模型,商业爆发力可以到月入十亿的量级。

至少,它证明了这条路虽然慢,但一旦跑通,回报远超预期。

前些天我写了自己用 Seedance 2.5 做视频的文章,里面的案例对我一个影视小白来说已经非常牛了。

蒸馏对应到个人身上,其实就是抄作业。

我见过很多人用 AI 的方式就是蒸馏式的,看到别人写了个好的 Prompt 就直接抄过来,看到别人用什么工具就跟着装一个,看到别人的工作流截图就一比一复制。

短期有效,确实能立刻提高一点效率。

但问题跟模型蒸馏一样,你抄的是别人当下的水平,抄不到别人是怎么走到这一步的思考过程。

等工具更新了、场景变了、需求变了,你又得找下一个人抄。

真正拉开差距的,永远是自己动手干出来的东西。

实践密度和实践质量,依旧是决定不同人在同一件事情上水平高低的分水岭。

你自己跑了一百遍才知道哪个环节可以优化、哪个步骤其实是多余的、哪个方法别人不讲但你踩坑之后明白了。

这些东西,抄不来。

张一鸣想要的,是字节在下一次技术突破发生的时候,还有能力自己造出炮来。

放到每个人身上,逻辑也是一样的。

当行业进入深水区,能走远的一定是那些愿意自己啃硬骨头、自己建认知体系的人。

捷径,能帮你到 90 分。

但 90 分之后的世界,只属于走过完整路径的人。

················· 唐韧出品 ·················

用AI思维发现下一个机会

安可时刻

明天出发北京,这次又是特种兵式奔袭。

在北京给最新一期 AI 个体户计划的同学上两天课,还有两家公司三拨人要见,以及一个 98 年 AI 创业者约聊。

完事直接飞黑龙江鸡西待两天,接着转哈尔滨然后回长沙。

小小唐开学前还准备带他出去自驾游一趟,这次计划在川西和甘南选一个地方,算是延续每年暑期出游的传统。

今天继续改周末两天 AI 训练营的 PPT,这次加入了不少新东西,个人IP、AI自媒体、Agent工作流拉满,光 PPT 就有 400 多页了。

打开网易新闻 查看精彩图片