清华大学团队提出的SAFLOW,把辛积分(symplectic integration)里保持结构的思路搬进了策略建模,构建出一种自伴随的流匹配策略,并采用Verlet对称分裂。这套设计让动作采样和似然评估在数值上可逆。

打开网易新闻 查看精彩图片

论文在8个Isaac Lab具身控制任务上做了对比,基线包括PPO、TRPO、FPO和GenPO。结果显示SAFLOW整体占优,其中人形机器人任务上的提升接近51%。

对在线强化学习来说,采样与似然评估能否稳定可逆,直接关系到策略更新的效率。SAFLOW的切入点正是这一层数值结构,而不是在外层堆叠额外模块。