文 | 徐明
大模型技术的发展,如今正迎来一个关键的分水岭:从盲目追求性能和参数规模,到重视性能与算力成本的平衡,算力效率的提升正在惠及普通消费者。
3月2日晚间,阿里正式开源了千问3.5系列的四款小尺寸模型,包含了千问3.5-0.8B、2B、4B以及9B。这一动作在全球AI社区迅速掀起了巨大的热情,截至3月3日,在开源社区HuggingFace中,仅发布一天的9B参数的千问3.5模型热度排名迅速提升,SpaceX和特斯拉创始人马斯克在模型发布后第一时间发声,盛赞千问3.5“智能密度令人印象深刻”。
所谓智能密度,简单来说,就是模型用更少的参数,跑出更高的智商。如果用一个指标来衡量“智能密度”——即每十亿(B)参数所能释放的智能水平。
以智能密度为核心目标,前沿大模型的发展路径已从单纯追求极致性能突破,转向全场景适配落地,覆盖从专业企业级应用到消费级个人终端的多元场景。
用硬件成本来刻画行业过去一年的智能密度进步曲线,如今大概只需3万美元的硬件,就能跑出一年前需要20万美元GPU配置才有的推理能力。
那么如果更进一步,让大模型在个人终端上落地,究竟需要怎样的技术底座?千问3.5给出的答案是:将“以小胜大”做到极致。
算力性价比重构:以小胜大的技术进步
过去几年,大模型行业习惯了用庞大的参数规模迭代更高的智能水平,然而,企业和个人在实际部署时往往面临高昂的成本壁垒。
千问3.5系列模型打破了这一路径依赖,依托于模型架构的创新和训练突破,千问3.5首次在小尺寸的稠密模型中实现了强大的原生多模态能力。
模型不仅实现了视觉理解能力与通用智能水平的双重提升,更让小尺寸稠密模型具备了中型乃至大型模型的性能表现。在涵盖指令遵循(IFBench)、博士级别推理(GPQA)、数学推理(HMMT25)、具身推理(ERQA)以及复杂文档理解(OmniDocBench)等多个权威评测中,千问3.5-9B性能可媲美参数量规模大其10倍的gpt-oss-120b模型。
同时,在轻量级模型横向对比中,千问3.5-9B同时大幅领先于gpt-oss-20b、GPT-5-Nano以及Gemini2.5Flash-Lite等主流轻量级模型,让算力部署变得更有性价比。
突破端侧交互瓶颈:轻量级Agent的崛起
如果说9B模型是性价比极高的通用基座,那么更小尺寸的4B模型则完美平衡了性能与资源消耗,展现出极强的Agent能力,成为了轻量级Agent的理想多模态基座。
在真实的业务场景中,AI的价值不仅在于对话,更在于能否像人类一样使用工具。千问3.5-4B在这方面交出了亮眼的答卷:在视觉智能体(ScreenSpotpro)评测中,千问3.5-4B的性能与尺寸大它近8倍的千问3-VL-30B-A3B持平。这意味着,它可以做到像真人一样自主操作手机与电脑;在工具调用(TIRE-Bench)评测中,千问3.5-4B模型模型的表现大幅领先GPT-5-Nano-2025-08-07和Gemini2.5Flash-Lite。
而极致小尺寸的千问3.5-0.8B/2B模型,体积小,推理速度快,可直接部署在手机、平板、智能座舱、可穿戴设备等终端硬件上,为离线语音交互、本地文档解析、实时感知决策等端侧AI应用开辟新可能。
目前已有开发者在iPhone17Pro上成功跑起了千问3.5模型,在普通的笔记本电脑上跑千问3.5-9B同样绰绰有余。更有开发者实测发现,仅凭一台配备M4芯片的普通笔记本,就能在本地高速运行中等尺寸的千问3.5模型,性能与顶级模型相当。
有专家表示,随着千问3.5小模型的出炉,未来AI核心落地场景有望在端侧全面爆发。而随着高智能密度端侧小模型的开源落地,科幻作品中‘贾维斯’式的个人专属智能助理,即将走进每一台消费级电子终端。
开源力量:
千问用全尺寸开源助力端侧AI爆发
截至目前,千问3.5家族已开源了8款新模型,均实现了以更少的计算量提供更强大的智能,完成了让马斯克惊艳的“智能密度”提升。
除了此次发布的小模型,千问3.5系列在中大尺寸上同样表现强劲。除夕发布的新一代原生多模态基模千问3.5-397B-A17B,以不到4000亿的参数超越了上代万亿参数的千问3旗舰模型。而上月底开源的35B、122B、27B三款中等尺寸模型,性能媲美GPT-5,且在消费级显卡上就能跑通。开源首月,千问3.5即横扫全球开源模型排行榜,在前五名中独占四席。
据了解,阿里始终坚持全尺寸、全模态的全面开源策略,涵盖了大语言模型、视觉、语音、编程、数学等不同领域。累计开源400余款千问模型,全球下载量突破10亿次,衍生模型数量超20万,稳居全球第一开源模型的位置。
当大模型褪去尖端科技的光环,以更高的智能密度和更轻盈的姿态融入大众生活的多元场景时,端侧AI全面爆发的时代,将正式拉开序幕。
▲《一财商学院大客户产品手册》
▲《一从种草到成交 小红书如何重构电商生意链路?》
▲《押注三平米:电梯广告AI实战指南》
▲《2024抖音电商CORE经营方法论手册》
▲《天猫国际2024进口消费趋势报告》
▲《从洞察到生意:阿里健康特色人群消费趋势报告》
▲《 <出海26讲> 跨境新商通识课全面上线》
▲《「鲜生」夺人 农货的品牌征途》
▲《2024出海攻略》
▲《新微商主义》
▲《新获客时代》
▲《新搜索时代》
▲ 品牌案例洞察
热门跟贴