一支来自北京大学科学智能学院的团队,把端侧AI模型做成了可以断网运行的办公和科研工具。9月3日,元空智能在上海发布Boxer模型,以及“元空AI Work”办公平台和“元空AI for Science”科研Agent。CEO逄大嵬在现场直言,云端大模型绕不开数据安全、Token成本和稳定性问题,端侧是一个物理性的解决方案。
从云端转向端侧
元空智能创立于2023年2月,最初做AI Excel办公工具,后来做全链路数据Agent平台,再转向Claw产品,如今聚焦AI办公平台、端侧智能与科研Agent。团队积累了三年Agent经验后,决定逐渐转向端侧赛道。逄大嵬认为,端侧市场是大厂暂时不会做的生意,但也不存在某一种技术是大厂不具备的。
Boxer是一个尺寸为35B的端侧模型,主要面向办公场景。在公司自建的WorkArena测评集中,Boxer-35B-A3B-v0-0819在同尺寸模型中排名第一。这一模型基于开源模型做后训练,训练数据来自团队长期积累的Agent Harness产生的真实任务轨迹。在一台40TOPS算力的消费级PC上,Boxer可以实现每秒700 Tokens以上的预填充速度、每秒30 Tokens以上的解码速度,运行内存占用不到8GB。
断网环境下的真实任务
发布会现场,元空智能联创宁鲲鹏博士直接用惠普电脑跑了三个真实任务。在断网条件下,AI Work调用本地模型,几分钟内完成分类归档发票、排查金融行业交易流水数据异常等工作。科研任务上,模型能自动完成复杂实验、绘制图表、撰写论文等全流程。
元空智能同时官宣了与惠普的合作。元空把自己的技术能力叠加在惠普的硬件与商业化能力之上,把AI Work以及端侧模型预装在惠普Z系列机型上,做标准化交付、买断式的商业模式。逄大嵬表示,应用侧的销售成本接近于零,只要把研发做好,在销售上跟着惠普走就可以。
端侧市场的爆发逻辑
中国惠普有限公司副总裁周信宏提到,未来每一台电脑都可能是AI电脑,企业部署AI的开销在未来两三年会翻倍。金融、药企、制造等数据合规要求高的行业,必须把数据和知识留在本地,这些赛道的爆发力极强。逄大嵬补充,中国每年新出货几千万台PC,全球每年稳定出货3亿台电脑,这个市场是可以确定的。
关于商业模式,元空智能做标准化交付,收入包括本地授权以及端云混合模式中的云端token收入。全球化方面,团队一方面做自己的线上平台出海,另一方面跟着惠普的海外推广渠道走,目前正在拓展新加坡、东南亚以及日韩市场。
35B模型为什么不做垂直行业版
宁鲲鹏解释,Boxer基于千问模型,用Agent Harness产生的数据做后训练。从效果上看,现在35B效果已比一年多前的GPT-4o能力更强,智能密度很高。参考DeepSeek V4 Flash,激活参数只有13B,但能力已经足够强。
联合创始人姚佳雨补充,真实工作环境需要模型、Agent和设备三方协同。任务需要不断记忆、反馈、实施操作,不是靠一个上下文或纯聊天能完成的。Harness负责产生数据轨迹,它和模型必须一起训练,两者分不开。这也是团队不直接训垂直行业模型,而是训通用模型、搭载在垂直Harness上的原因。
数据闭环与竞争壁垒
关于用户数据是否回流训练,宁鲲鹏明确:完全本地交付的用户,使用过程中产生的数据绝对不会回流;企业场景下,企业可能授权元空进行训练。逄大嵬认为,云端厂商的生意模式决定了它不会All in端侧,端侧需要原生端侧环境和数据闭环,这是元空长期积累的关键。
周信宏解释惠普选择与元空合作的原因:AI创业包括数据、算法、算力三部分。数据在客户手里,算法和模型在元空这类厂家手里,惠普提供稳定的算力以及类似FDE(前沿部署工程师)服务。双方已经合作两年,从ChatExcel开始。元空不只在做Harness层,它有自己训练的模型、通用的Agent,还分行业,在金融、医药、科研都有对应的Agent,这是元空与其他模型厂商的差异化优势。
对于手机厂商合作,逄大嵬表示至少这个阶段不会进入手机场景。手机厂商默认已经把小模型预装做掉了,元空更关注能真正联网干活、形成网络效应的设备,以及价值更高的场景,比如PC、工作站等生产力交付工具。
热门跟贴