打开网易新闻 查看精彩图片

这项由浙江大学与阿里巴巴达摩院联合开展的研究,以预印本形式发表于2026年7月,论文编号为arXiv:2607.01804,有兴趣深入了解技术细节的读者可通过该编号检索完整论文。

说起家里的扫地机器人,相信很多人都有过这样的经历:它按照既定路线在地板上转来转去,偶尔一脚踩进猫碗里,然后依然不慌不忙地继续走之前规划好的路线,仿佛刚才什么都没有发生。这种"执行计划、无视变化"的行为方式,在机器人领域有一个专门的说法,叫做开环执行——制定好计划就一路走下去,中途发生什么都不管。

现在的机械臂机器人面临的正是这样一个困境,只不过问题更加严峻。当前最先进的机器人控制系统,使用一种叫做视觉语言动作模型(VLA)的人工智能大脑来指挥机械动作。这类AI大脑非常聪明,能看懂图像、听懂语言、规划动作,但它有一个致命弱点:每次"思考"都需要不少时间,就像一个博学的顾问,每次给出建议都要斟酌很久。为了解决这个效率问题,工程师们发明了一种叫做"动作序列块"的方案——AI一次性规划好未来好几步的动作,然后机械臂就按照这个计划一股脑儿地执行下去,中途不再请示AI。

这个方案确实提高了效率,但也埋下了一个隐患:如果执行过程中出了岔子,比如零件滑了一下,或者桌上的物体被人碰动了,机械臂依然会按照原来那个过时的计划继续执行,结果越走越偏,最终彻底失败。这就好比你在厨房按照记忆中的食谱做菜,食材已经烧焦了,你却还在往锅里加下一步要加的调料。

浙江大学的研究团队为此开发了一套名为VLA-Corrector的轻量级纠错系统,专门解决机械臂在执行动作时无法感知错误、无法及时叫停的问题。这套系统不需要对原有的AI大脑进行任何改造,只需要在旁边安装一个"监视员",随时盯着执行情况,一旦发现苗头不对,立刻打断,并以特殊方式触发一次更有针对性的重新规划。

一、动作序列块的两难困境:效率与安全的拔河

要理解这项研究的意义,先得明白机械臂的AI大脑是怎么工作的。

当机械臂需要完成一项任务,比如"把灰色积木放到棕色平台上",AI大脑会观察当前的摄像头画面,结合这句语言指令,生成一整套动作序列——好比一份详细的操作手册,写着接下来每一步怎么移动手臂、怎么开合夹爪。这个过程需要相当的计算时间。

如果每执行一步动作就重新请教一次AI大脑,机械臂会非常精准地响应每一个细节变化,但速度会慢得难以接受。于是工程师们退而求其次,让AI一次规划出一段连续的动作——这就是"动作序列块",或者叫做action chunk。每次执行这一块动作的步骤数量,叫做"动作视野"(action horizon),数值越大,意味着机械臂在不请示AI的情况下盲目执行的步骤越多。

研究团队做了一组系统性的对比实验,在三种不同的AI大脑模型上,分别测试了不同动作视野下的任务成功率和平均调用AI次数之间的关系。结果非常直观:动作视野越长,平均调用AI的次数越少(效率越高),但任务成功率也越低(越容易出错)。以π0.5这款AI模型为例,把动作视野从较短调整到50步时,AI调用频率降低了大约四倍,但任务成功率也从约64%跌到了49%以下;SmolVLA和X-VLA这两款模型也呈现出完全相同的规律。

这个规律说明了什么?说明目前不存在一个放之四海而皆准的"最佳动作视野"——任务越简单、环境越稳定,长视野就越合适;任务越复杂、越容易出意外,就越需要频繁重新规划。但在实际应用中,系统往往只能预先固定一个视野值,无法根据当下情况灵活调整。

这个矛盾的本质,并不是"哪个固定的视野最好"的问题,而是"什么时候应该停止信任当前这段计划"的问题。这才是VLA-Corrector想要回答的核心问题。

二、监视员登场:用"预测与现实的差距"来判断是否出了问题

VLA-Corrector的核心思路,可以用一个侦探的工作方式来理解。侦探在跟踪一个嫌疑人时,会在脑子里预测对方下一步应该去哪里。一旦嫌疑人的实际行动与预测不符,侦探就知道出了新情况,需要更新判断。

VLA-Corrector里有一个叫做"潜在空间视觉监视器"(LVM)的模块,扮演的正是这个侦探的角色。它的工作原理是这样的:首先,系统会预先训练一个轻量级的"视觉动力学预测器"(研究中称为Mφ,一个约四千万参数的小型神经网络)。这个预测器学习的是:给定当前的视觉场景和即将执行的动作,接下来摄像头画面应该如何变化——用更专业的话说,就是视觉特征在高维数学空间中的预期演变轨迹。

在机械臂实际执行动作序列块的过程中,LVM每隔固定时间就做两件事:其一,用预测器计算"如果一切正常,视觉场景应该变成什么样";其二,从摄像头获取实际画面,计算"视觉场景实际上变成了什么样"。然后,它把这两个结果做比较,用一个叫做余弦相似度的数学工具,算出预期变化方向和实际变化方向之间的夹角——夹角越大,说明偏离越严重,偏差评分Et也越高。

这个偏差评分形成了一个实时的警报信号。在正常的成功执行过程中,这个分数会保持在较低的水平;而当执行开始出问题时,分数会明显攀升。研究团队在实验中验证了这一点:从1000个测试集中统计,成功的任务episode集中在较低的Et值区域,失败的任务则呈现出分布更宽、高分比例更大的特征,并且触发了更多的预警事件。

三、聪明的叫停机制:不被偶然抖动骗到,只在真正偏离时出手

光有预警信号还不够——如果动不动就叫停,机械臂会不停地被打断,效率反而更低。VLA-Corrector在这里设计了一套稳健的"事件触发"机制,避免因一次性的偶然波动而误报警。

具体来说,系统维护着一个滑动的历史窗口,保存最近15个时间步的偏差评分。然后用这些评分计算出中位数(Me)和中位绝对偏差(MAD)——相比均值和方差,这两个统计量对偶然的极端值不那么敏感,就像你评价一道菜好不好吃,参考多数人的意见比被一个特别挑剔的食客的评价主导要靠谱得多。

在这两个统计量的基础上,系统设定了两个门槛:一个较高的"激活门槛"(Ton)和一个较低的"复位门槛"(Toff)。只有当偏差评分连续超过激活门槛5次以上,系统才会触发打断事件。也就是说,一次偶然的波动或视觉上的短暂遮挡,不会引发误报;只有持续的、稳定的偏离,才会被认定为真正的执行漂移。

一旦触发打断,系统立刻丢弃当前队列中剩余的所有动作,停止盲目执行,并标记下一次AI重新规划需要以"纠错模式"运行。如果原本计划执行10步,打断时已经执行了4步,那么这次实际只执行了4步——这就是"自适应动作视野"的含义:视野不再是固定的,而是根据执行状态动态缩短。在稳定执行阶段,视野照常维持在较长水平;只有出问题时,才会提前收短。

研究团队还专门分析了这个打断机制的触发时机是否合理。他们把MetaWorld测试任务的轨迹手工划分成"关键阶段"(如精确抓取、对准放置等容错性低的操作)和"非关键阶段"(如搬运、粗略移动等容错性高的操作),结果发现,83.7%的打断事件发生在关键阶段,只有16.3%发生在非关键阶段。换句话说,系统对精细操作特别敏感,对粗糙动作则更加宽容——这正是一个好的监视员应该有的判断力。

四、不只是叫停,还要帮忙纠偏:在线梯度引导的秘密

打断执行只是解决了问题的一半。另一半更难——停下来之后怎么办?

直接重新请AI规划,往往效果不理想。因为AI大脑在重新规划时,会根据当前的摄像头画面和语言指令生成新的动作序列,但它并不知道自己刚才具体偏离了什么方向、需要朝哪里纠偏。就好比你在黑暗中迷路了,打电话请朋友帮你导航,但朋友只能看到你的大概位置,并不知道你刚才走偏了多少、偏向了哪里——他给出的建议可能仍然让你往错误的方向走。

VLA-Corrector在这里引入了"在线梯度引导"(OGG)机制,让重新规划这个过程变得更有目的性。这个机制的关键,在于充分利用前面LVM已经积累的信息——它不仅知道"出问题了",还知道"预期的视觉演变是什么"、"实际发生的视觉演变是什么"、以及两者之间差了多少、差在哪个方向。

在重新规划时,AI大脑使用一种叫做"流匹配"(flow matching)的技术来生成动作序列——可以理解为,从一团随机噪声出发,经过多步"去噪",逐渐雕琢出一组合理的动作指令。OGG就在这个去噪过程中悄悄介入:每一步去噪时,它都用偏差方向计算出一个小小的修正梯度,把生成动作的方向微微朝着"弥补偏差"的目标推一推。

具体而言,系统会找到打断事件发生前最后一个稳定时刻,计算那时预期应该发生的视觉变化(ΔZexp);同时,计算实际上发生的视觉变化(ΔZdev),两者相减,得到一个"纠偏方向"(ΔZcorr)。在重新规划时,OGG要求新生成动作的预期视觉效果,尽量与这个纠偏方向对齐,从而主动将机械臂的行动轨迹拉回正轨。

这个机制有一个很精妙的设计:OGG只在打断事件发生后的那一次重新规划中激活,之后的规划仍然回归正常模式——除非又检测到新的持续漂移。这意味着它不会对整体流程造成持续的干扰,只在最需要的时刻精准介入。

研究团队用一组对照实验验证了OGG的效果。他们让系统在同样的打断事件发生后,分别用普通重新规划和OGG引导重新规划来恢复,统计10步内偏差评分降到安全水平的比例(即"恢复成功率")。结果显示,OGG在所有难度级别上均优于普通重新规划,平均恢复成功率提高了0.23(即提高了23个百分点)。

五、训练一个"外科手术级别"的监视员,代价有多大?

视觉动力学预测器Mφ的训练方式值得专门介绍,因为它体现了整套方案的一个重要设计理念:轻、快、不影响原有大脑。

训练过程是这样的:先在任务的示范数据上微调好VLA骨干模型,然后完全冻结它,不再动它的任何参数。之后,从示范轨迹中提取三元组数据:当前时刻的视觉特征(从摄像头画面用VLA自带的视觉编码器提取)、当前执行的动作、以及几步后的视觉特征。Mφ学习的目标是:给定前两项,预测两者之间的视觉特征差值(即视觉演变量)。

训练损失函数有两个部分:一个衡量预测大小的准确性,另一个衡量预测方向的准确性(用余弦相似度衡量)。这样训练出来的预测器,对视觉场景的静态背景不敏感(因为静态部分的变化量接近零),只对任务相关的动态变化有响应——这正是监视员应该有的选择性注意力。

为了验证需要多少训练数据,研究团队做了一个数据规模扫描实验,用20%、40%、60%、80%、100%的训练数据分别训练Mφ,然后评测效果。结果显示,从60%-80%的数据量开始,效果就基本趋于稳定,不再随数据增加而显著提升。这说明Mφ学习的是一个局部的、相对简单的一致性信号,而不需要覆盖所有可能的场景变化。一个只有约4000万参数的小型多层感知机(MLP),在这个任务上已经足够。

六、实验数据说明了什么:三款机器人大脑都受益

VLA-Corrector在多个基准测试上被全面检验,覆盖了三款架构不同的VLA骨干模型:π0.5(物理智能公司出品)、SmolVLA(来自HuggingFace团队)和X-VLA(来自阿里巴巴团队)。测试平台包括MetaWorld(一个在仿真中模拟各种接触丰富操作任务的标准测试平台)、LIBERO(一个测试长时序任务执行的语言条件基准)以及真实物理机器人AgileX PiPER。

在MetaWorld的跨架构评测中,VLA-Corrector对所有三款AI大脑都有显著提升。对π0.5的提升最为明显,平均成功率从48.70%提升到64.35%,提高了约16个百分点,其中最难的任务类别(Very Hard)从41%直接跳升到65%。对SmolVLA和X-VLA也分别有约5个百分点的提升。

更能体现VLA-Corrector价值的,是"每次调用AI的成功率"这个综合指标——它衡量的是,在同等效率消耗下,能完成多少任务。以π0.5在动作视野50步的设置下为例,成功率从48.7%升到58.7%,而平均AI调用次数反而从5.15次略微下降到4.98次——也就是说,不仅任务做得更好了,花费的计算资源还更少了,综合效率提升了24.6%。SmolVLA在动作视野10步时的效率提升最高,达到45.3%。X-VLA在动作视野4步时效率提升39.1%。

在LIBERO基准上,研究团队做了一个更有趣的实验:用少量数据(少样本微调)训练的π0.5,加上VLA-Corrector之后,平均成功率从94.00%升到97.80%,甚至超过了用完整数据集训练出的全量微调基线(96.95%)。这说明,在数据不足的情况下,推理时纠错可以在一定程度上弥补训练数据的覆盖不足。

在真实物理机器人上的测试分三类任务:常规抓放(容错性高)、精准对齐(容错性低)和扰动恢复(人为在执行中移动目标物体)。VLA-Corrector对这三类的提升幅度依次递增:常规抓放提升8.3个百分点,精准对齐提升16.6个百分点,扰动恢复提升28.3个百分点。平均成功率从55.6%升到73.3%。这个梯度分布完全符合预期:系统越是在需要实时感知变化的场景中,优势越明显。

七、额外开销值不值:每次纠错多用多少时间?

任何额外机制都有计算代价,VLA-Corrector也不例外。研究团队专门统计了各种情况下的推理时间开销。

在MetaWorld的测试中,加入VLA-Corrector(含OGG激活)后,总体推理时间约是不使用OGG版本的1.64倍。具体来说,一次普通的动作块推理平均耗时278毫秒,而一次OGG引导的纠错推理平均耗时589毫秒,大约慢了一倍。但由于OGG只在打断事件发生后才激活(不是每次推理都用),分摊到每一个执行步骤上,平均每步只多花约8毫秒——从12毫秒增加到20毫秒左右。

这个开销对于工业级机械臂应用来说是可接受的,尤其是当它换来的是更高的任务成功率和更强的干扰恢复能力。研究团队也坦承,OGG的梯度计算是目前额外时间开销的主要来源,未来有优化空间。

八、与"挂钩"在AI大脑内部的监视器相比,外部监视器为何更好?

研究团队还做了一个设计层面的对照实验,专门回答一个问题:为什么要把监视器(Mφ)做成独立的外部模块,而不是直接在AI大脑内部增加一个辅助预测头?

他们测试了"内部耦合"方案:对π0.5进行微调,在其内部增加一个额外的预测头来完成同样的视觉动力学预测任务,然后使用同样的OGG来引导纠错。结果,这个内部耦合方案的平均成功率只有49.55%,而外部解耦的LVM方案达到了64.35%。

研究团队分析原因:内部辅助目标的加入,会微调AI大脑的骨干参数,可能破坏原本经过精心训练的视觉语言到动作的映射关系,对动作生成质量造成负面影响。而外部独立的Mφ在完全冻结的AI大脑特征上训练,完全不干扰原有的行为,监控信号更纯粹,效果自然更好。

这个发现也验证了VLA-Corrector整体设计哲学的合理性:不改造、不干扰原有大脑,只在旁边加一个独立的监视-纠错模块。这种模块化设计的另一个好处是:每换一款AI大脑,只需要用新大脑的特征重新训练Mφ即可,无需对AI大脑本身进行任何修改,迁移成本极低。

归根结底,这项研究提出了一个听起来简单但实际上颇具启发性的观点:机械臂不需要时刻拥有"全知全能"的实时反应能力,但它需要在事情开始变坏的时候,知道该停下来,并且以比普通重试更聪明的方式重新出发。

固定长度的动作序列块并非错误的设计,它在大多数情况下确实有效,也确实省去了大量不必要的AI调用开销。问题只在于,一旦遇到意外,这段计划会继续盲目执行直到酿成更大的错误。VLA-Corrector的贡献,在于把这个"盲目执行"阶段从固定的转化为条件性的——执行顺利时,享受长视野的效率红利;执行出偏时,以最小代价叫停并精准纠偏,而不是简单粗暴地把所有步骤都砍短。

对于想深入了解这套方案技术细节的读者,可以通过arXiv编号2607.01804查阅完整论文,或访问论文中提到的GitHub项目页面ZJU-OmniAI/vla-corrector获取代码。对于普通读者来说,这项研究的意义或许可以这样来感受:未来家里的服务机器人在帮你倒水时,碰倒了杯子,它不会继续把水倒到已经歪斜的杯子里——而是会停下来,感知到杯子的新位置,然后重新抓稳,再完成任务。这不只是一个工程技巧,而是让机器人具备一种我们人类每天都在用的基本能力:感知出错了,并且知道如何应对。

Q&A

Q1:VLA-Corrector需要重新训练原有的机器人AI大脑吗?

A:不需要。VLA-Corrector的核心设计理念就是完全不修改原有的VLA骨干模型参数。它只需要在冻结的AI大脑特征上,额外训练一个约4000万参数的轻量级视觉动力学预测器(Mφ),整个训练过程独立进行,不影响原有模型的任何行为。

Q2:VLA-Corrector的视觉监视器怎么判断机械臂执行是否出了问题?

A:监视器会在每个时间步预测"如果动作按计划执行,摄像头画面的视觉特征应该如何变化",然后与实际摄像头拍到的变化进行对比。两者的方向差异越大(用余弦相似度衡量),说明执行偏离越严重。只有当这个偏差连续超过自适应门槛5步以上,系统才会真正触发打断,避免偶然抖动引发误报。

Q3:在线梯度引导(OGG)每次机械臂重新规划时都会启动吗?

A:不是。OGG只在LVM检测到持续漂移并触发打断事件之后的那一次重新规划中激活,之后的规划仍然回归正常的流匹配推理模式。只有再次检测到新的持续漂移,才会再次激活OGG。这保证了纠错开销只在真正需要的时刻才产生。