IEEE Transactions on Robotics

Fast and Robust Visuomotor Riemannian Flow Matching Policy

作者：Haoran Ding, Noémie Jaquier, Jan Peters, Leonel Rozo · 机构：Bosch Center for Artificial Intelligence, Renningen, Germany; Division of Robotics, Perception, and Learning, KTH Royal Institute of Technology, Stockholm, Sweden; Computer Science Department, Technische Universität Darmstadt, Darmstadt, Germany

会议/期刊：IEEE Transactions on Robotics · 发布日期：2025 · 页码：5327-5343

路径规划传感器模仿学习扩散策略

精读笔记

Problem Setting

论文标题：Fast and Robust Visuomotor Riemannian Flow Matching Policy（IEEE Transactions on Robotics / 2025）。

这篇论文不是在提出一个新的机器人任务求解器，而是在解决 diffusion-style visuomotor imitation policy 的生成机制问题：如何在视觉条件下快速生成高维动作序列，并且动作可以生活在欧氏空间、球面、四元数球面或它们的乘积流形上。

关键矛盾是：复杂 manipulation policy 需要多模态动作分布和动作序列建模，因此简单 BC 不够；DP 能拟合复杂分布，但采样慢，低 NFE 时质量和轨迹平滑性下降；几何动作如 orientation 如果用欧氏 diffusion 再 normalize，本质上破坏了生成过程的几何一致性。机器人闭环控制又要求低延迟，这让“多步生成质量”与“实时响应”直接冲突。

真正困难点在于同时满足：1）动作分布足够 expressive；2）inference 足够少步；3）生成动作天然满足 manifold constraint；4）低步数下不因为 ODE/denoising 数值误差而漂移。论文的核心定位就是用 Riemannian flow matching 替代 diffusion policy，并进一步用 stable flow matching 解决普通 FM 在 t>1 或低步积分时的不稳定。

Motivation

作者的出发点很明确：diffusion policy 的成功主要来自强分布建模能力，而不是 diffusion 采样链本身对机器人控制特别合适。相反，多步 denoising 是 deployment 负担；consistency policy 虽然减步，但引入 teacher-student 两阶段训练，训练复杂度和稳定性都不理想。

更深的缺口是几何约束。很多 manipulation policy 的 action 并非纯欧氏变量，尤其是 end-effector pose 中的 orientation。对这类数据，用欧氏模型生成后投影/归一化只是工程补丁：它不能保证训练目标、生成路径和稳定性分析都发生在正确几何空间。RFM 正好给出一个在流形上定义概率路径和向量场回归的工具。

作者的另一个重要观察是：普通 RFMP 虽然在 t=1 附近能生成合理动作，但当积分时间稍微延长时可能先变好再发散。这说明 RFMP 学到的是有限时间 transport，而不是稳定动力系统。机器人 policy 需要对数值积分、NFE 选择和闭环状态扰动有鲁棒性，因此需要把目标分布设计成吸引集，而不是只在 t=1 命中一次。

Core Idea

核心思想可以概括为：把动作生成从 diffusion 的 reverse denoising chain 换成 observation-conditioned Riemannian flow。训练时随机采样专家动作序列 a1 和先验动作序列 a0，在两者之间构造几何一致的条件路径；网络只需回归这条路径上的向量场。推理时从先验动作序列出发，沿 ODE 积分少数步得到动作 horizon，再 receding-horizon 执行前几步。

这个改变的本质不是“换了一个生成模型名字”，而是改变了 inductive bias：DP 学的是逐步去噪局部修正，FM 学的是从 prior 到 target 的运输速度场。若条件路径足够直，少步积分就能接近目标；若路径定义在 Riemannian manifold 上，动作合法性不需要后处理维护。

SRFMP 的进一步核心是把“到达 t=1 的目标样本”改成“沿稳定向量场收敛到目标支撑”。通过伪时间扩维，原本 time-dependent 的 flow matching 被组织成 autonomous dynamics；通过 LaSalle-style Lyapunov 结构，目标分布附近成为不易漂移的稳定集合。这给少步推理带来实际好处：可以使用更大的第一步长，甚至接近一跳到目标附近，再少量 refine。

Method

1）RFMP：用 Riemannian conditional flow matching 学习观测条件动作序列分布。它解决的是 DP 多步采样慢以及欧氏动作假设不适合姿态的问题。关键变化是网络输出 tangent vector field，损失用 Riemannian metric，路径通过 geodesic/Exp/Log 构造，因此生成过程本身尊重流形。

2）Action horizon + receding horizon：这不是论文最原创的部分，但机制上很重要。它解决单步动作 BC 容易抖动和缺乏短期一致性的问题。RFMP/SRFMP 不是直接输出一个 action，而是输出未来动作序列，然后只执行前一段。这一设计继承了 DP 的实用 inductive bias，也是很多实验表现的基础来源之一。

3）Prior design：先验不是任意噪声。对于欧氏空间用 Gaussian，对于球面/四元数用 uniform 或 wrapped Gaussian。它解决的是 flow 起点与目标支撑之间几何距离的问题。Sphere Push-T 中 prior 选择显著影响结果，说明这里不是无关细节；如果 prior 离数据支撑太远，向量场学习会更难。

4）SRFMP：引入伪时间 τ，把状态扩展为 ξ=[action horizon, τ]，然后回归一个稳定 Riemannian vector field。它解决普通 RFMP 在 t>1 漂移、对积分边界敏感的问题。核心变化是目标向量场不再只是有限时间插值，而是由类似 Lyapunov potential 的结构诱导出收敛动力学。

5）Projected Euler / manifold ODE integration：这是保证生成过程留在流形上的必要机制。它不是主要创新，但没有它 Riemannian formulation 会退化成训练时讲几何、推理时靠投影的工程方案。

Key Insight / Why It Works

最关键的有效性来源我认为有三层。

第一层是 FM 相对 diffusion 的路径优势。DP 低 NFE 差，不只是实现慢，而是 reverse denoising chain 被训练为多步马尔可夫修正；强行减少步数会改变分布逼近。FM 直接回归从 prior 到 data 的速度场，如果条件路径接近直线/测地线，少步 ODE 积分天然更合适。因此 RFMP 在 1–5 NFE 下强于 DP 是机制上合理的，不只是 engineering。

第二层是几何 inductive bias。对 orientation/球面动作，Riemannian Exp/Log 把“合法动作空间”放进训练目标和生成动力学，而不是后处理归一化。这个差异在高维乘积流形和长 horizon 中更重要，因为逐步投影会累积扭曲速度场和轨迹平滑性。论文中 DP 在 Riemannian 设置下靠 normalize 的 baseline 偏弱，但这也正反映了几何建模的价值。

第三层是 SRFMP 的稳定性偏置。普通 FM 只要求在 t∈[0,1] 上匹配路径，t=1 之后没有任何行为约束；学到的 neural vector field 在边界外发散很正常。SRFMP 用 stable autonomous field 约束了边界外行为，因此对积分时间、低 NFE 和数值误差更鲁棒。它的优势在 Franka Kitchen 这类长 horizon 任务中特别明显，合理解释是局部误差更少积累，而不是模型突然具备了更强的任务规划能力。

需要直接指出：不少性能增益仍可能来自已知 recipe 的组合，而不是纯理论贡献。UNet、action horizon、receding horizon、视觉 backbone 基本沿用 DP；RFMP 的强表现部分来自把 DP 的成功工程壳替换了生成目标。SRFMP 的确是更实质的机制创新，但其稳定性在学习误差下是否严格转化为 policy robustness，文中未充分说明。

另外，这类 policy 的“泛化”更像局部条件生成和数据覆盖内插，不应理解为形成了长期 planning 或 causal reasoning。Franka Kitchen 成功更可能来自 demonstration 分布覆盖和稳定低误差 rollout，而非显式层级任务理解。

Relation To Prior Work

这篇论文处在 diffusion policy、flow matching policy、Riemannian generative modeling 和 stable dynamical systems 的交叉点。

相对 DP：本质差异是生成过程。DP 是多步去噪，低 NFE 是压缩一个本来多步的反向过程；RFMP 是 ODE transport，少步推理是模型目标天然支持的。两者使用相似的 policy 外壳和视觉 backbone，所以性能差异更能归因到生成机制，而不是 architecture。

相对 CP/consistency policy：CP 是对 DP 采样过程做蒸馏，属于加速已有 diffusion teacher；RFMP/SRFMP 是从一开始就训练少步友好的 flow，不需要 teacher。CP 的快推理换来更复杂训练，而 RFMP 的优势是单阶段 simulation-free regression。

相对 normalizing flow/CNF：RFMP 继承连续 flow 的思想，但避免 likelihood training 中反复积分 ODE 的成本。它更接近 modern flow matching / rectified flow 谱系：用监督式向量场回归替代密度最大似然。

相对 RFM：RFMP 主要是把 RFM 适配到 visuomotor imitation policy，包含条件观测、action horizon、机器人流形动作空间。这个部分是重要系统化应用，但不是最理论的新东西。

相对 SFM：SRFMP 的实质创新是把 stable flow matching 推到 Riemannian/product manifold policy 上，并用于机器人动作生成。这里的新增信息是：稳定性不是只在欧氏 toy generative modeling 中有意义，而能直接减少机器人低步推理中的漂移和积分边界敏感。

Dataset / Evaluation

实验覆盖面比较强：有平面 Push-T、作者构造的 Sphere Push-T、Robomimic state/vision、Franka Kitchen 长时序，以及两项真机任务。它确实验证了论文的三个主要 claim：低 NFE 推理、Riemannian action handling、以及 SRFMP 对积分边界更稳。

Robomimic 和 Push-T 主要验证分布拟合与闭环控制效率；Sphere Push-T 专门验证流形动作空间；Franka Kitchen 放大了长 horizon 下局部误差累积的问题，因此更能显示 SRFMP 的价值；真机实验说明方法不是纯 benchmark trick，至少能落到视觉条件真实控制。

但 evaluation 也有明显边界。首先，真机任务数量少、场景变化有限，更多是数据覆盖内的鲁棒性，不是强泛化。其次，DP baseline 在 Riemannian 设置下采用后处理投影，这对 DP 不完全公平，但也符合常见 naive practice。第三，CP 只在部分任务上比较，且训练预算/epoch 对比虽然说明了复杂度，但不能完全代表最优 CP 实现。第四，消融主要围绕超参和 NFE，缺少更彻底的归因：例如相同 flow 但无 Riemannian geometry、相同稳定场但不同 prior、不同 action horizon 下的稳定性贡献分离。

Limitation

1）稳定性保证的实际含义有限。理论上 SRFMP 稳定到目标支撑，但训练的是神经近似向量场，且条件变量来自视觉观测。OOD observation、遮挡、错误感知下，稳定吸引可能把系统稳定地拉向错误模式。文中未充分说明学习误差如何影响 LaSalle-style guarantee。

2）多模态条件分布下的 basin 问题没有被充分讨论。稳定场可能改善漂移，但如果目标分布有多个 mode，吸引结构如何避免 mode collapse、mode averaging 或进入错误 mode，并不清楚。

3）泛化能力很可能主要来自 demonstration coverage 和视觉 encoder 的局部识别，而不是方法具有强组合泛化。尤其 real-world 任务中物体、背景、相机、任务结构变化有限；所谓鲁棒性更接近低 NFE 和轻微视觉扰动鲁棒。

4）Riemannian formulation 依赖已知且可操作的几何结构。对于 contact state、deformable object、hybrid discrete-continuous action、tool-object relational constraints，这种 Exp/Log 明确的 manifold 建模并不直接适用。

5）scalability 上限可能在 ODE field accuracy 和 action horizon 维度。Franka Kitchen 的高维 action sequence 结果很有说服力，但 action horizon 越长，flow 要学习的联合分布越复杂；如果任务需要跨阶段选择或长期记忆，单个 receding-horizon generative policy 未必足够。

6）部分增益可能是 engineering/scaling 的混合结果。沿用 DP 的 UNet、ResNet、receding horizon 后，RFMP 与 DP 的差异更干净，但仍不能排除训练 epoch、scheduler、NFE tuning、prior selection 对结果有较大影响。尤其 Sphere Push-T 中 prior 选择对 RFMP/SRFMP 很敏感，说明方法不是完全 prior-agnostic。

Takeaway

  • 1）对机器人 imitation policy，FM/RFM 是 diffusion policy 的一个很自然且可能更适合实时控制的替代：不是把 diffusion 蒸馏得更快，而是换成少步友好的 transport formulation。
  • 2）几何约束应该进入生成动力学本身，而不是输出后 normalize。
  • 这个 insight 可迁移到任何带姿态、接触约束、形状空间或 SPD 参数的策略学习问题。
  • 3）SRFMP 最值得记住的是“把生成模型的采样过程设计成稳定动力系统”。

一句话总结

这篇论文把 visuomotor diffusion policy 的多步去噪范式替换为带流形几何和稳定吸引偏置的 flow matching policy，是从“更快采样的生成模型”走向“可部署稳定动力系统式策略”的一次实质推进。