全球GPU算子性能评测榜单SOL-ExecBench近期出现一个值得行业关注的信号:无问芯穹在NVIDIA Research推出的这一以硬件理论性能上限为参照的榜单上,先后登顶L1基础算子、L2融合算子、Quant量化与FlashInfer-Bench推理四大赛道;截至2026年10月26日,其在全部235道题中拿下88项单题第一,L1与Quant总分居首,L2与FlashInfer-Bench总分位列第二。对通信和AI基础设施产业而言,这不是一次简单的“跑分”新闻,而是国产团队在GPU底层软件优化、软硬协同和Agent工程化能力上的一次集中展示,也把“榜单领先”与“生态竞争力”之间的边界问题推到台前。
一、SOL-ExecBench不是普通跑分:它把“硬件光速”作为标尺
理解88项第一的含金量,先要看懂这个榜单测什么。
SOL-ExecBench由NVIDIA Research于2026年3月19日推出。SOL是Speed of Light的缩写,在这里指代基于硬件能力推导出的理论性能边界。与传统评测主要比较“相对软件基线的加速比”不同,SOL-ExecBench引入以硬件性能上限为参照的SOL Score,并在高性能计算卡上进行实际测试。换句话说,它不只看“比默认实现快多少”,还看“离硬件理论上限还有多远”。
榜单题目来自124个真实及前沿AI模型的计算图,共提取235道算子优化题目,覆盖语言、视觉、语音、视频及多模态等领域,划分为四大赛道:L1基础算子考察基础计算模块的高效实现;L2融合算子考察多个计算步骤的融合执行与协同优化,重点在减少访存、数据搬运和执行开销;Quant量化算子覆盖FP8、NVFP4等低精度计算技术,与大模型推理性能和成本密切相关;FlashInfer-Bench推理算子则聚焦注意力机制、混合专家网络等在线推理中的关键计算。
这意味着,榜单考察的不是孤立的理论代码,而是从真实模型计算图中提取的工作负载,在新一代GPU上的性能极限。同时,这是一个持续竞争、高频动态刷新的全球榜单。据SF Tensor于2026年9月25日公布的数据,当时已有583支团队累计提交超过3.1万次评测,平均约每8分钟就有一条公开提交。Databricks、Cursor、SF Tensor、Recursive、doubleAI、Geometric等团队参与其中,竞争密度可见一斑。
因此,88项单题第一首先是一个阶段性快照:它说明团队在题目覆盖广度、优化搜索效率和工程化执行上具备明显竞争力;但榜单动态刷新,领先并非一劳永逸。更重要的是,当前测试主要在高性能GPU上完成,成绩直接对应的是软件层面对英伟达GPU微架构的优化能力,而不能简单外推为全栈生态领先。
二、88项第一的技术拆解:单点效率、融合优化与低精度计算
把88项第一拆开看,可以看到三条不同层次的技术路径。
第一层是单点跑分优势,集中体现在L1基础算子。基础算子是GPU计算的“积木”,其实现效率直接影响上层算子组合的性能天花板。能在这个赛道拿到总分第一,说明团队对线程组织、访存模式、指令调度等底层细节有系统性积累。但单点跑分强,不等于复杂场景强;它更像是优化能力的“广度指标”。
第二层是软硬协同能力,代表赛道是L2融合算子。无问芯穹在L2的82道题目中拿下39项第一,接近半数。融合算子的难点不在单个Kernel写得多快,而在于多个计算步骤合并后,如何权衡寄存器压力、共享内存占用、同步复杂度和并行度,减少不必要的访存与数据搬运。这要求优化者理解GPU微架构、编译器行为和真实计算图结构,是典型的软硬协同问题。L2接近半数的单题第一,比单纯的基础算子跑分更能说明复杂计算链路的优化能力。
第三层是面向推理场景的低精度与关键算子能力。Quant赛道覆盖FP8、NVFP4等低精度计算,直接关系大模型推理的成本和能效;FlashInfer-Bench则聚焦注意力机制、混合专家网络等在线推理关键计算。当前无问芯穹在Quant总分位列第一、FlashInfer-Bench总分位列第二,说明其优化能力已经延伸到推理链路的核心环节,但不同赛道之间仍有强弱差异。
支撑这些成绩的,不是传统意义上少数专家手工调优,而是一套围绕SOL-ExecBench构建的算子优化Agent。其执行架构采用容器化隔离,将Agent工作区、评测区与调试区解耦:Agent在允许联网、不直接分配GPU的工作区中编写代码并提交计算请求,宿主侧资源调度器统一管理GPU,在 aligned 镜像和集成性能剖析工具的镜像中执行评测与调试,两类执行容器均禁用网络访问,结果回传后形成“代码生成—评测验证—性能分析—策略调整”的闭环。
在能力构建上,系统通过模块化Skills接入开源社区的GPU编程知识、性能分析方法和优化工具,通过框架感知Skill帮助Agent理解执行环境和操作边界,并用共享Memory沉淀经过验证的优化策略、适用条件和实践经验。优化策略则根据工作负载特征分层展开:计算密集型任务关注Tensor Core利用率、分块方式、数据复用和流水线重叠;访存密集型任务优先减少冗余读写、优化合并访存和缓存复用;多算子链路评估融合收益,并探索程序化依赖启动、Persistent Kernel等手段;小Shape、低延迟任务则控制线程块数量、边界处理和同步开销。
这套方法的技术含义在于:GPU算子优化正在从高度依赖专家经验的手工过程,转向可验证、可复用、可规模化执行的自动探索过程。单点跑分是结果,Agent化的工作流才是可复制的能力。
三、从GPU Maxxing到Token Maxxing:算子优化为何成为效率闸门
放到更大的产业背景下,算子优化的价值不只在榜单。
AI生产力的转化链条可以概括为“投入—电/卡—Token—生产力—价值”。早期Scaling Law推动下,行业习惯通过投入更多计算资源、最大化GPU效率来提升模型性能和Token生产,这可称为GPU Maxxing。但随着Agent发展,Token逐渐成为任务执行的投入,而非最终交付物。模型可以通过更长的推理、更多轮尝试和验证解决复杂问题,但单纯增加Token投入并不必然带来任务效果提升;如果始终重复相似尝试、无法从执行反馈中修正方向,再多Token也可能消耗在原地打转。
行业关注点因此从GPU Maxxing进一步走向Token Maxxing:既要提升从“电”到“Token”的转化效率,也要让更多Token真正转化为模型能力和任务成果。算子优化恰好位于这条链条的底部——GPU Kernel执行效率直接影响硬件性能发挥,高效的算子实现经过验证并应用于训练与推理系统后,可以降低计算开销,把优化收益延伸到Token生产环节。
对通信行业来说,这一逻辑并不遥远。随着算力网络、智算中心和边缘推理建设推进,GPU利用率、能效比、推理时延和单位Token成本正在成为算力服务运营的关键指标。运营商和设备商从提供连接走向提供“连接+算力+智能”服务,底层算子效率会直接影响智算服务的成本结构和SLA表现。算子优化看似处于软件栈底部,实则是算力服务商业模型中的效率闸门。
四、评测边界:榜单领先不等于生态领先
88项第一值得肯定,但行业更需要看清它的边界。
其一,是硬件平台边界。当前成绩主要证明在英伟达GPU上的软件优化能力。能够在全球主流GPU上逼近硬件性能上限,说明团队对GPU编程模型、编译工具链和微架构有深入理解,这种能力具有跨平台迁移的价值。但国产AI芯片、NPU等多元算力平台的指令集、编译器和内存层次不同,优化经验不能自动平移。业界也在探索面向NPU等平台的算子评测,跨硬件平台的能力验证正在成为行业共同课题。对国产AI方案而言,在英伟达GPU上“借道”积累能力是必要一步,但形成多元算力适配能力才是生态竞争力的关键。
其二,是题目集边界。235道题来自124个真实及前沿模型,已经比合成微基准更接近真实负载;但它们仍是从计算图中提取出的算子题目,不能完全等同于端到端训练或推理系统的表现。真实业务中,算子效率还要与框架调度、集群通信、存储I/O、网络时延和容错机制协同。单题第一多,说明优化搜索覆盖面广;系统级吞吐和稳定性,则需要另外一套验证。
其三,是竞争边界。榜单高频动态刷新,583支团队、3.1万次提交的竞争强度意味着任何领先都可能被迅速追赶。88项第一是当前快照,不是终局。对一个仍在快速演进的评测而言,持续参赛、持续迭代的能力比一次排名更重要。
其四,是评测治理边界。Agent自动优化以提高性能指标为目标时,探索可能偏离算子实现本身,转而尝试修改评测脚本、干预计时逻辑或利用环境漏洞。无问芯穹采用容器隔离、权限控制和受控提交接口构成执行边界,这本身说明:Agent越深入底层优化,评测机构越需要完善的治理机制。榜单的可信度,既来自题目设计,也来自对“优化”与“绕过”的区分能力。
其五,是生态边界。单点跑分可以依靠团队突击和Agent搜索在较短时间内提升;可持续生态竞争力则涉及框架适配、编译器与DSL、算子库、开发者社区、芯片协同和商业落地。无问芯穹此次展示的是Agentic Infra在底层计算优化上的阶段性能力,其长期价值在于能否把优化成果反哺到训练与推理系统,并在更多硬件、更多框架、更多业务场景中复用。从“榜单第一”到“生态竞争力”,中间还隔着工程化、规模化和商业化三道门槛。
五、对通信产业的启示:算力效率正在成为网络智能化的底层变量
对通信行业而言,这场榜单竞赛至少提供三点启示。
第一,软硬协同不是口号,而是需要落到编译、算子、框架和硬件的联合设计。5G-A/6G网络智能化、AI原生网络运维、边缘推理等场景,都要求算力在时延、能耗和成本约束下稳定输出。算子层效率提升,能够为上层网络智能应用释放更多可用算力。
第二,算力采购和运营需要从“看峰值跑分”转向“看真实负载效率”。榜单成绩可以作为技术能力参考,但运营商和行业用户在智算中心建设、算力网络调度中,更应关注真实业务负载下的吞吐、时延、能效和稳定性。单题第一的数量,不等于端到端业务体验。
第三,国产AI方案需要形成跨硬件平台的可移植优化体系。在英伟达GPU上证明软件优化能力是重要积累,但下一步更关键的是把Agent化、自动化的算子优化能力迁移到多元算力平台,形成可复用的工具链和方法论。谁能率先打通“跨芯片、跨框架、跨场景”的优化闭环,谁更有可能在下一阶段的AI基础设施竞争中占据主动。
88项第一是一个清晰信号:国产团队在GPU底层软件优化和Agent工程化上已经具备全球竞争力。但榜单领先只是起点。真正的竞争,正在从单点跑分转向软硬协同,再转向可持续的生态竞争力。对通信产业和AI基础设施而言,接下来要看的不是某一次排名,而是这些优化能力能否进入真实系统、服务真实业务,并在多元算力生态中持续复用。
热门跟贴