打开网易新闻 查看精彩图片

最早看见大模型的人,

转身去做最密的模型。

那是一个简陋,但是中国大模型行业不该忘记的晚间聚会。

时年22岁的曾国洋简单支了张桌子,放了个电脑,展示了一个打字机一样的网页——打几个字,按Tab键,它就能自动往后补内容,不断吐出略显奇怪的内容情节。这个“打字机”背后,是中国第一个大语言模型CPM-1。

那是2020年,大模型的前传时代。GPT-3出现了,但只引起了曾国洋这样一小撮AI研究者的注意。曾国洋发现,和之前AI训练主流路线BERT不一样,GPT-3“不是理解,而是生成。生成模型让我们看到了一个无法想象的上限。”曾国洋第一时间就想在国内也做一个。于是,在智源研究院的支持下,曾国洋作为核心工程负责人,负责训练框架、算力调度、模型落地,最终有了这个能展示“打字机”的夜晚;再之后,才又有了更大尺寸的盘古、悟道模型项目。

曾国洋那晚支的桌子不大,里里外外围了两三圈人,这就是中国最早了解大模型、注意到Transformer架构能量的一小撮“革命火种”。你可以叫他们“智源系”,也可以叫“清华系”——其中产生了今天中国最重要的几家AI模型公司,包括市值一度超过万亿港元的智谱,估值正在急速翻倍的月之暗面,也包括曾国洋所在、以清华NLP实验室成员为创始班底的面壁智能。

不过,在大模型一浪一浪的热闹中——天量融资的军备竞赛、C端投流补贴、新模型不断发布和打榜、AI Coding掀起收入狂潮也掀起程序员裁员潮……曾国洋和面壁智能却在这些热闹之外。

过去两年,面壁智能作为在中国很早看到大模型威力、也是很早一批成立的AI模型公司,却选了一条少有人走的冷清道路:做端侧模型,浓缩到能跑进手机、汽车甚至一个毛绒玩具里。

打开网易新闻 查看精彩图片

“未来的智能不可能只存在于云端。历史上,计算本身就一直同时存在超级计算、云计算、端侧计算,人工智能也一定会是这样。”面壁智能创始人刘知远曾说,“既然已经有人在做云端模型,我们为什么还要重复做同样的事情?而端侧,既有非常清晰的技术支撑,也有非常清晰的历史类比。”

做端侧模型,在技术上并不比做大更简单。恰恰相反,如何在压缩模型尺寸的同时,却不显著减损智能,是技术难题,也是工程难题。面壁智能在端侧模型上的底气在于,提出了一套原创方法论——“模型风洞”,即在小规模实验中快速验证和预测模型效果。面壁智能相信,“知识密度”是衡量模型的真正标尺,并喊出一条“面壁定律”:知识密度每3.5个月翻一番,同等智能所需的参数规模呈指数级下降。

最初,市场也快速给出了正反馈。面壁发布的一个2B参数的模型MiniCPM,表现碾压了同期8B的同行竞品,开源发布后,还适配了安卓手机,跑了速度、挂了榜单。手机厂商一下就卷起来了,纷纷来问“为什么我的(速度)没他的快”。

但是,做端侧模型这条路,意味着大量的约束条件:配合芯片功耗和电池电量,不能模型一运转,电量就撑不住了;配合端侧硬件本身的使用场景,比如如果唤起AI比直接在手机上点几下更麻烦,大家就不会用AI……

云端模型跟最终用户的距离,可以短到只有一个聊天窗口;但走端侧模型这条路,要在真实世界里闯过重重关卡,任何一关卡住,终端用户的感知就为零。

所以,过去三年,热闹都是云端模型的,面壁智能却在一片喧嚣中坚持走上端侧这条旁路。当云端大模型领域追逐一个又一个“天才少年”、技术偶像时,大二就在清华NLP实验室实习、22岁做出中国第一个大语言模型、24岁担任面壁智能CTO的曾国洋,却鲜少在媒体露面。

打开网易新闻 查看精彩图片

那么,这家中国较早做大模型的公司,和“年纪很小、资格很老”的曾国洋在做什么?

在做芯片和内存适配。面壁智能已完成对高通、联发科、英特尔、瑞芯微、英伟达、AMD等主流芯片平台的全面适配;在内存价格飞涨的当下,面壁智能新发布的BitCPM-CANN模型系列,能跑在华为昇腾芯片上,让同一块内存多装约6倍大的模型,或者让本来带不动的设备带得动。

在做“更懂你”的模型。端侧的操作更智能更简洁,才能战胜上一代人机操作的体验。现在的记忆框架一般只是把你的对话记录存进数据库,但面壁智能引入了行为模式库。例如,你上车时问你:“你昨天听了周杰伦,今天要继续播放吗?”这叫记忆,但它依然需要你应答。而行为模式库想打造的“默契系统”,是不需要开口,就把空调调到你最习惯的温度,然后放一首你最近频繁收听的歌。一句"去接孩子"即可自动补全目的地、规划路径并结构化为待办提醒。

在做端侧所需、更自然的人机交互。面壁智能的全双工全模态模型MiniCPM-o4.5像一个时刻在线的真人,能边看、边听、边说。你可以随时打断它,它也能根据你的实时反应调整语速和情绪,让交互从“触发指令”变成了“自然对话”。

这背后,依然渗透着曾国洋和面壁智能对AI模型的理解。

“做模型就是做数据。”曾国洋反复强调。端侧模型要追上大模型,光靠架构不够,真正卡上限的是训练数据的知识密度。面壁把数据治理拆成L0到L4五级,像芯片制程一样分层精炼:原始数据、过滤、精筛、合成增强,再到可直接编排,每一级都对应明确的处理标准和训练阶段。

他要求每个算法工程师必须亲自看数据,一百多个训练数据集要挨个检查到“没有任何问题”才会开始训练。他举了一个令人印象深刻的反例:上万条微调数据中,仅两条因为处理不当截断了半句话,训练完的模型就开始在和人的对话中“说到一半戛然而止”。“两万条里两条有问题,模型就学坏了。”

曾国洋相信,用AI来训练AI,是模型进化的必然之路。“以前是八个程序员抬着一个架构师往前走,现在变成一个架构师开着AI的车哗哗地往前走。如果你没办法拥抱这个变化,就会在这边被碾碎。”他相信,所有高度数字化的事情都可由AI替代,同理,AI模型的训练全程都是数字化的,也该是如此。

他自嘲自己“要失业了”--据其介绍,面壁智能开发了全球第一个完全由AI编写的生产级大模型训练框架ForgeTrain。这意味着有更高的工程效率,和能在更紧的算力预算下保持前沿模型研发节奏;面壁智能配套提出的Forge Engineering是一种新的软件工程范式:把代码从“一份需要长期维护的实现”解绑成“按需锻造的一次性快照”。同一套评测标准,可以为不同硬件、不同场景各自算出最优实现,通用性和效率不再二选一。

简单来说,过去两年,走上端侧之路的面壁试图变得越来越懂工程、懂落地——在电池和芯片约束最小的智能汽车上,面壁已经在吉利、上汽大众、广汽、马自达等的车型上完成定点、走向量产——但面壁和曾国洋依然很懂模型。

打开网易新闻 查看精彩图片

在这个时点,36氪跟如今28岁、“年纪依然很小,资历依然很老”的面壁智能CTO曾国洋,聊了聊他们走上端侧模型之路的始末,过去两年的端侧实践、AI模型团队建设,以及他如何看待AI模型的未来。

面壁智能 x 36氪CTO专访
打开网易新闻 查看更多视频
面壁智能 x 36氪CTO专访

视频|36氪独家专访面壁智能联合创始人兼CTO曾国洋

以下为访谈实录,有编辑删减。

不在云端拥挤,去端侧开路

不在云端拥挤,去端侧开路

36氪:你的经历看着蛮惊人的:8岁学编程,高二拿了信息学竞赛金牌保送清华,大二就进了清华的NLP实验室。NLP实验室,包括唐杰老师所在的清华知识工程实验室又是中国较早看到大模型潜力的地方。能不能讲讲你的经历和亲身体感?

曾国洋:这里边都是一系列的机缘巧合。我刚进NLP实验室的时候,还没有大模型,甚至连预训练都没有。大家那时候的技术还是按方向划分和具体应用场景有关。我刚进去做的是法律智能,当时做了个罪名预测系统想试一试,我刚把名字输进去,就已经开始判刑了(笑)。

真正的大变革是2018年出现了预训练技术——BERT和GPT同年出现,但当时GPT被BERT压着打。第二个转机在2020年,OpenAI几乎用全部身家训练了GPT-3,能力也不是特别好,还没法像今天一样做对话,更多像一个打字机,但想象空间非常大——它是一个能像写文章一样的模型。我们试了之后发现和之前训练的BERT不一样,好像突然有了智能。这对我触动非常大,我们第一时间就想在国内做一个。

36氪:Transformer预测下一个token,BERT做的是完形填空。为什么最终是预测下一个token的路线胜出了?

曾国洋:做理解任务的话,BERT统治力很强。但生成创造比理解更有想象空间,生成本身是在做创造,理解只是在做选择。就像今天大家看到的生成图片、视频、文章——你需要的是创造性,不是对已有东西的判断选择。

36氪:ChatGPT是2023年才爆火的,但你们2022年就创立面壁了,那时你们就知道要做什么吗?

曾国洋:公司是2022年成立的,但我们更早就开始做大模型了。最早在智源那边一个创新中心,把一个小会议室改造成办公室,只能坐不到十个人。

当时也是不太清楚往哪个方向做。我们找了很多智能客服公司,对方不会说要一个ChatGPT,而是说“能不能在客服的意图识别方向,提升几个百分点,且不增加额外成本”。试了半天发现不太行,大模型毕竟比较大,提升效果没问题,但成本不变很难。

后来我才意识到,这样的新技术特别需要愿意接受变革的人来做。

36氪:ChatGPT爆火之后,是不是给你们带来了很不一样的外部环境?创业爆火,比如,更早之前杨植麟还在做循环智能,那会儿出来做了月之暗面;投资人也很疯狂,当时所有投资机构都在寻找会做大模型的公司,但这样的公司没有几家。

曾国洋:ChatGPT算是救了我们一命。之前融资非常难——不是没前景,而是投资人看不懂。当时很多投资机构找不到懂的人,甚至拉做语音的来评估,觉得“语音和语言很像”。ChatGPT一出,大家立刻就懂了。

36氪:你们在2023年下半年就决定做端侧模型。但那时所有人都要做大模型参数、追赶OpenAI,为什么你们做了这样的选择?

曾国洋:我们在赛道上待得太久了。2020年做出国内第一个大模型后,国内厂商从2021年到2023年初的核心就一个字:大。参数量从二十几个一直卷到阿里M6的十万亿,但十万亿参数没带来真正的智能。最早ChatGPT也就250到500亿参数,效果却让人惊讶。我们经历过这些实践,所以知道单纯把模型训练更大是条死路。

36氪:展开讲讲?

曾国洋:很多人觉得把参数做大比做小难,其实是反过来。最早的计算机ENIAC有几间房大小,但算力不如一台手机。我们提出了“知识密度”——在相同尺寸下模型能达到多少智能。

所以我们一直以“知识密度”做牵引来研发模型。最开始我们也是模型越做越大,最大也做过千亿规模的模型。但到我们做第四代模型的时候,研发了“模型风洞”技术:就像造飞机不用造完整了再试飞,可以先把外壳放风洞里吹,我们能在小规模实验中预测完整训练后的水平。

基于这个技术,我训了一个2B的小版本做验证,发现效果比同期Meta的LLaMA 8B、Mistral 8B都要好。我当时很震惊,赶紧先发布开源了(MiniCPM)。

36氪:能拆解一下“模型风洞”的技术逻辑吗?

曾国洋:核心是OpenAI提出的Scaling Law。Scaling Law提出了一条曲线,而且提出另一个观点——缩放之后的效果是可预测的。我们可以在更小规模上快速实验,预测更大规模的表现,不需要像其他公司一样在目标尺寸上完整训练再验证。可以并行快速跑很多实验,几天内就出结果。

36氪:你们觉得核心是知识密度,但当时大家都在讲“智能涌现”,先把模型做大了再说。你们选端侧模型这个方向,是不是选早了?

曾国洋:智能涌现这个理论很快就被推翻了,只是这个词太出圈了,大家没意识到。所谓“涌现”,其实是因为测量手段太简陋。比如一个数学题有五个步骤,之前的统计只看到做对还是没做对,突然从0变成1,就好像涌现了,但内部其实是连续性变化——先对一步,再两步、三步。

从另一个角度说,涌现是可以被预测的,只要找到合适的尺子,能给它量出来。

36氪:最近大家越来越认识到数据质量的重要性。越来越认识到说高质量数据、怎么构建数据,对模型的智能是特别关键的,而不是堆一堆数据量上去。你讲的密度和这是一脉相承的?

曾国洋:是的。影响模型效果的因素,比较基础的包含了模型架构、训练方法以及数据。几年下来,模型架构和训练方法都收敛了,大家越来越趋同,做啥改动对效果影响都不大了。所以大家发现,现在最影响效果的就是数据。

我经常说,做模型就是做数据。我要求每个人必须亲自看数据,MiniCPM每个版本训练前,我会组织所有算法同事在一个会议室里,一百多个数据集每人分几个挨个看,到没有任何问题才真正开始训练。

36氪:现在模型架构创新不再提了?

曾国洋:Infra和架构都收敛了。Infra不影响效果,只影响训练和推理成本。端侧Infra特别难搞,端上芯片多样复杂,比如功耗——以前我做算法从不用考虑功耗。模型落在端上不是尺寸小、效果好就万事俱备了。

云端一般是浮点运算,终端上要用整型运算来降低功耗,需要做模型量化,量化会损失效果,又要研究怎么恢复。就很复杂。

36氪:选端侧这个方向,今天看是重的——参与方多,要跟芯片适配,跟硬件和场景适配。但是例如coding,把模型做好就行了。你们当时预想到端侧的复杂性了吗?

曾国洋:云端竞争也很激烈,真正有效果能挣钱的只有AI Coding。Coding也没啥忠诚度,哪个便宜送得多、哪个效果好就用哪个。Anthropic经常封Claude第三方客户端,很多用户在骂,Anthropic也不管。但GPT 4.5一出,Anthropic立马认怂送优惠。这里边没有软柿子,没有啥事特别好做。

我们当时去做端侧还有一个考虑,国内资源有限——人才没问题,数据也能解决,短板在算力。所以我们一方面想尝试拥抱国产算力,一方面做端侧。

36氪:能展开讲知识密度和端侧模型的关系吗?

曾国洋:在端侧,大家对知识密度的依赖会更重一些。云端还有弹性——可以把Infra优化好、或者你钱多补贴用户。但端侧是硬限制:如果模型太大,跑不动就是跑不动,补贴钱没用;功耗太高会发热,你不可能补贴一个冰块。

36氪:你们2024年决定往端侧转,有过犹豫和讨论吗?

曾国洋:讨论了很久。当时我们技术很领先,2B规模模型战胜8B。我们当时讨论最多的问题是:要不要训个100B战胜400B——一听就激动,但卡在算力上。

36氪:所以你们是痛心地放弃了做一个更大尺寸模型的想法?

曾国洋:两条都是很好的路。就像高考考得很好,选清华还是北大的纠结。

36氪:做端侧的决定性因素是什么?

曾国洋:客观资源限制。其实当时云端应用场景也不明朗——三个大场景:Coding效果烂、收不到钱,情感陪伴也没跑起来,搜索被Google内嵌了大模型做掉了。最后活下来的只有Coding一条路。

36氪:你们选了端侧,打算怎么走?

曾国洋:持续提升知识密度,这个方向无论如何不会变。端上有丰富的场景——手机、AI PC、汽车、机器人、智能家居,怎么收费一眼就能想明白。汽车是目前走得最快的,体积够大、电池够大、功耗要求不严。

端和云也是互补的:端侧打通数字世界和真实世界的边界,把真实世界信息传递给云端,像气球的外皮;云端,是在数字世界里提高效率,像里边的气。

端侧模型,更要足够理解人

端侧模型,更要足够理解人

36氪:走端侧这条路,没预估到的难点是什么?

曾国洋:我们当时都不太懂。第一个事就是功耗。和手机厂商聊,第一反应是赶紧看功耗是多少,还要拿功耗仪测。散热也分被动、主动。非常复杂,不是模型效果好就万事俱备。

比如智能眼镜,空间太小、电池不够、续航有限——它是一个体系问题。落到产品上,端侧模型要和人交互,怎么降低延迟和首响应时间。模型一秒生成一百个字,但人说不了那么快,这中间就有很多优化和调度技巧。

36氪:那是怎么选优先落地场景的?

曾国洋:功耗续航直接用户体感,其实是影响最大的,算力反而是影响最小的,因为优化和操作空间大。汽车好做,是因为电池大、功耗要求限制少;手机其实也不错,因为先进制程芯片能耗好。

36氪:在大模型市场上,模型表现好就能很容易拿到市场。但在端侧,模型表现好就能高枕无忧了吗?模型的表现是最核心的吗?

曾国洋:端侧模型不单看评测效果,还有响应时间、硬件成本,它很难从单一维度胜出。

36氪:大家对端侧终极想象像电影《Her》,每个人有个随身AI。因为面壁在手机和随身设备方向都有探索,你们实践下来觉得差距在哪?

曾国洋:最终目标是想做到那样,但现在实际情况比较复杂。模型智能可以,但关键是要足够理解人,真正个性化。

朋友给我说了一个真实的例子:下属给领导反馈说,大模型很好用。领导就想试一下:他把文档拖给AI说“你帮我弄一下”。这样效果当然很差。但好的秘书,你不用说那么复杂,领导说“弄一下”,秘书就能做好,那是因为秘书很懂领导。

在端侧拥有简单的智能是不够的,它还要必须真正懂你。

36氪:这就涉及模型怎么记忆和存储偏好?

曾国洋:大模型核心处理记忆的机制是Attention,但人脑里没有Attention,也没有调动100兆上下文。

再比如说,模型的痛点是并没有“干得越多越熟练”——Agent犯一次错纠正了,第二次同样的错还会再犯,第三次还犯。人不一样,踩一次坑就不会有第二次。空间记忆、工作记忆也很难用现在机制表达。

这就是大模型像人又不是人的核心原因。人脑是很好的参照系——功耗不高、智能程度高、更靠谱。所以这方面还有很多可以探索空间,Transformer也许不是最终的架构。

36氪:手机按理说是最重要的AI随身设备,但手机厂商行动不激烈,为什么?

曾国洋:一大问题是交互。手机的图形交互界面,手操作非常快。当智能助手不了解你,你得说好几分钟指令,自己早都点几下点完了。你要更快,就得真正懂用户,“一切尽在不言中”——我没说话但需求已被完全理解,这才有价值。否则花几分钟干十秒的事,没必要。

36氪:那AI手机离大家还有距离?

曾国洋:不好说,大模型技术发展非常快,没人知道什么时候就突破了。就像Coding去年下半年才火起来,之前可靠性太低,大家都不爱看。和“智能涌现”一样——大家只看成不成,不看过程中成了几步。大家虽然感觉现在AI蠢蠢的,不是很理解你,但是随着它的发展,也许从10%理解你,到50%,再到99%理解你,感受一下就完全不一样。

36氪:你的观察对业界做端侧模型的其他玩家有什么观察?

曾国洋:做端侧的人很少,它要打通算法、软件、硬件,要求非常高。

36氪:端侧这条路走了这几年,你觉得业界对端侧有什么误判?

曾国洋:常见的说法是“端侧不就是把模型做小一点”。做小是非常难的,不是越大越简单。

做模型就是做数据

做模型就是做数据

36氪:从你24岁当CTO,现在也过去4年了,怎么建一个模型训练团队?好的模型团队和一般的差距由什么造成?

曾国洋:训练好一个模型包含很多模块——数据团队(收集、管理、清洗、标注),算法团队(架构、训练方法、数据混合比例),Infra团队(让算力集群不要挂,用最高效率训练),评测团队,以及上硬件终端的部署和优化团队。

但最重要的是数据。好的团队对数据质量要求高、挑剔。我们最早有上万条微调数据,两条因为处理不当截断了,模型训练完,经常聊天聊到一半突然停了——两万条里两条有问题,模型就学坏了。

36氪:姚順宇说“训练大模型需要的不是聪明人,而是靠谱的人”,我理解就是跟这个有关?你认同这个话吗?

曾国洋:认同。需要非常靠谱细致的人,他看过的数据就是真的没有问题的数据,他做的实验就是真的没有问题的实验。

大模型现在越来越像实验科学。它本身太复杂了,从理论上去描述的话,理论离实践已经差得太远了。所以大家为了更好理解大模型,要做非常多的实验。做实验,就要严谨,要靠谱,控制变量就得控制住。

36氪:如果一个做生物学实验很靠谱的人,不是学计算机的,他也适合进模型团队吗?

曾国洋:问题不大。我们很多团队成员在大模型火之前就加入的,那时候大家也没有做大模型的经验。但需要你真的去感知、理解、做实验和探索。

36氪:你在寻找什么样的人?

曾国洋:靠谱之外,还要愿意拥抱变化。大模型革命了很多旧技术,不愿意舍弃积累、不愿意从零开始接触新技术是不行的。最近AI Coding很火,很多程序员焦虑被替代,但我们的人用得可高兴了——以前自己干不完,现在指挥好几个人干。

我们还把办公点设在清华门口,就是为了招周边高校的实习生。开玩笑说正式员工写数据,实习员工搞论文。

36氪:AI领域有种“年轻化”审美,比如技术带头人要你这样的“年轻小天才”,招人也爱招博士生干活,为什么?

曾国洋:大模型是全新事物,找不到有经验的人,有没有积累没啥区别。我们有些做算法的人以前是做工程开发的,甚至没做过AI,完全不影响。

团队里有靠谱踏实的人,同时有愿意探索创新、有能力实践自己想法的人,就更有价值。

36氪:你怎么理解“AI Native的组织”?

曾国洋:AI Native是把AI当成更自然的东西。遇到事不会先想怎么做,而是先想用AI怎么做。AI就像一双手。我们现在做内部分享,PPT全是用AI做的。你不会想“手动做PPT”,而是AI就是我的一双手,自然而然就用。

36氪:怎么用好AI?你们有什么实践?

曾国洋:花了很长时间探索,有很多坑。有人会问“我们有没有过度压榨AI?”“AI要是反叛了我会不会第一波被剿灭?”其实AI和人不一样,但很多人把AI等同于人,这样很多事就办不好。要用好AI,不能像简单和人打交道一样。

所以我们内部有课程——第一教大家认识AI的机制,它不是许愿机器和阿拉丁神灯。第二教大家使用技巧。就像开车,踩油门就动了,但不会开半路就撞。AI是跑得很快的车,不会用方向盘,就很快跑偏了。

另外AI提效是非均质的。比如,三十人的开发团队能压缩到三人,代码开发提效了,但沟通没提效——原来三十人的会,变成这三个人来开。可能产能上升了,接活能力没变强。所以我们也在找这些卡点来优化。

36氪:能数字化的岗位就先被AI替代?

曾国洋:大家经常有个误解,以为AI会先替代简单工作,现实是反过来的——数字化得最好的工作先被替代。比如写代码,从头到尾都在数字环境里,模型训练也是。我们已经在尝试用AI制造AI——整个流程在云上,容易被AI接管。以前是八个程序员抬一个架构师,现在是架构师开着AI的车嗷嗷向前。如果没办法拥抱变化,就会被碾碎。

36氪:你们AI Token预算情况怎么样?Token支出的帐算得过来吗?

曾国洋:很宽裕,连PR同事一个月都有近一千美金预算。虽然账单大,但这是阶段性的苦恼,生产效率长期是一个核心竞争力。

某个方向效率暴涨后,其他方向显得慢了,把各方向的效率拉到新状态下,整个公司又能很好地运转起来。

模型会先吞噬 最赚钱的赛道

模型会先吞噬 最赚钱的赛道

36氪:你怎么看DeepSeek?

曾国洋:DeepSeek脑子很清楚——知识密度不落后,模型越大效果越好,同时优化推理成本。这就是云端大模型的逻辑,简单粗暴。

逻辑虽然简单,但不同的团队会做不同取舍,比如有的团队想做陪伴,就要重点训高情商。我们做端侧也一样,为了在端上运行好,有自己的量化和适配团队,这是在创业公司里只有我们能做端侧的原因。

36氪:Coding这个赛道上,未来的竞争点可能在什么地方?什么样的公司能做得非常优秀?

曾国洋:核心是做数据。大模型数据经历了三波:第一波用公开数据,2024年左右就枯竭了,所以好多报道说遭遇了“数据墙”。第二波自己创造数据,基于真实数据做改造,把不同形式变成AI Coding的数据形式,能做好的话2025-2026能训练出一流模型。第三波是“AI制造AI”——让AI接管从数据生产到训练评测的完整流程,因为全都在数字化环境中,反而是容易做到的。

36氪:未公开的垂直领域数据有价值吗?

曾国洋:肯定有提升,但是量太少。

36氪:我举个例子,做医疗模型的公司,有的在试图拿医院里的真实处方数据,但也有人说,最重要的成果都已经第一时间发表成公开论文了,公开数据已经很够用了。

曾国洋:这两种数据,如果分布差异大就有用,分布没差异,所谓的独有数据其实就是公开数据的一部分,没什么额外作用。

数据的数量和质量都很重要。我们做法律方向就拿到了不少正经渠道合作来的未公开数据,人无我有,模型就能学到很不一样的知识。

36氪:这是否意味着,已经拥有很多视频数据的公司最适合做多模态,如果不拥有这些数据,最终模型效果不会太好?

曾国洋:有独到数据,意味着你能摘到低垂的果实。其实别人也能摘,只是时间长一些。模型公司的业务能力如果强,还是能搞到很多数据的。

36氪:模型还能继续进步的话,下一个突破点在哪?

曾国洋:需要解决用人去迭代模型的效率问题——也就是用AI去造AI,用AI去优化AI。就像芯片设计,最早用镊子电焊焊不出集成电路,必须靠工具迭代。

记忆也是关键的突破方向,我们刚已经聊了很多,如果能解决机制上的问题,能让模型更像人。

36氪:你对世界模型怎么看?

曾国洋:世界模型还远没到ChatGPT时刻。现在的大模型,智能来自于互联网数据,像一个人他只读书,读着读者就足够聪明了、好像理解世界了一样,这其实听着也挺奇怪的。所以很多人在想,有没有更直接地去理解这个世界的方法,所以他们会做世界模型的探索。

36氪:对未来1-5年的AI发展做个预测?

曾国洋:我可能真的快失业了。数字化越好的工作越容易被替代,不是有技术含量就安全。但新变化也会来新机会——工作被替代了,就当老板就好了。我现在已经不亲手写代码了,全是AI写,我就像以前的领导,不用看代码,问它写了啥、为什么写,再指导它重点注意什么,就行了。

36氪:业界有什么你不认同的认知?

曾国洋:很多。“智能涌现”当时是主流,在学术界很快被推翻了。

另外,很多公司说想做AI-native的公司,但全卡在数字化做的不好的地方——流程卡在同事、审批流上,不是找个好工具就能解决的,所以这是个系统性问题。

36氪:AI最难办到的事情是什么?

曾国洋:最难数字化的事情。比如跟人打交道的工作——销售和HR。有的销售场景就是需要见到人,不然显得太不尊重客户。HR跟员工沟通的情商,也很难被替代。

36氪:做AI应用的公司都很恐惧自己的能力被模型覆盖。你能不能预测一下模型进步的方向,随之AI的哪些应用不值得做?

曾国洋:其实是反过来的——哪些AI应用火了,模型公司一定会跟进。因为模型效果依赖数据能力,大模型公司搞数据效率非常高,而且非常有钱,应用创业公司很难卷得过。Coding火了,Google、OpenAI、Anthropic全做了。包括Coze、Dify的工作流,全被AI替代了,AI自己规划了工作流就执行完了。

所谓模型吞噬一切,其实是先吞噬最赚钱的赛道。