精读笔记

Problem Setting

这篇论文真正想解决的是同构四足机器人族内的跨实体零样本控制。不是传统的 sim-to-real(已知目标机器人模型),也不是单一机器人上的技能学习,而是让单一策略在不经过任何 fine-tuning、不依赖显式机器人身份的前提下,直接部署到训练时未见过的真实机器人上。真正的难点在于:不同机器人的运动学(腿长、惯量)和动力学(质量、驱动能力)差异会导致底层动力学完全改变,而策略必须在仅依靠本体感觉历史的情况下在线推断这些变化并调整行为。以前的路线要么为每台机器人单独训练,要么依赖精确的动力学模型或显式的形态编码,导致部署 overhead 高。

Motivation

已有学习控制方法大多围绕‘一台机器人、一个策略’展开,即使有 domain randomization 也只在固定形态上扰动物理参数。另一方面,仿真中的跨形态迁移研究(如 GNN、modular policy)虽然展示了跨拓扑的潜力,但从未在真实四足平台上得到验证,且往往依赖显式的形态表示或专用网络结构。作者的核心观察是:商用四足机器人其实高度同质化(都是 12-DoF 的 base+4legs 模板),这意味着跨机器人泛化不一定需要复杂的结构感知网络,而可以通过在一个足够宽的同构分布上暴力随机化来实现。关键缺口在于:证明一个简单的前馈网络,仅靠历史观测,能否在真实硬件上覆盖这种形态差异。

Core Idea

核心思想是把 domain randomization 的边界从‘物理参数’推进到‘形态参数’(kinematic morphology),在同构模板下程序化生成大量随机机器人进行训练。策略不接收任何显式的机器人身份或形态描述,而是完全依赖一段短时的本体感觉历史(proprioception history)和过去动作来隐式推断当前机器人的运动学与动力学特性,并据此调整输出。这改变了 cross-embodiment 的建模范式:从‘给定形态描述,设计结构感知网络’转向‘不提供形态描述,从历史上下文在线辨识’。直觉上,周期性运动的历史观测中蕴含了足端触地时序、关节角度-力矩关系等丰富信息,足以让策略反推出腿长、惯量、质量等关键属性;而足够广泛的形态随机化迫使策略放弃记忆特定机器人,转而学习通用的‘元控制’规律。

Method

关键机制有三。第一是程序化形态生成:在固定的 12-DoF 四足模板内,通过尺寸因子、连杆比例、密度等参数随机化生成训练机器人,并用比例约束保持物理合理性。这解决了‘如何低成本构造覆盖真实机器人族分布的训练数据’问题。第二是历史观测作为隐式系统辨识:输入包含 15 步的原始 IMU/关节角度历史和动作历史,使标准前馈 MLP 具备有限记忆,在不引入 RNN 或 adaptation module 的情况下完成在线机器人辨识。第三是动作空间的稳定化设计:网络输出的是 nominal standing pose 的偏移量,经低通滤波后送入 PD 控制器。这为不同形态提供了一个共享的操作点,缓解了跨形态部署时的初始不稳定性。

Key Insight / Why It Works

该方法有效的根本原因不是网络架构的归纳偏置,而是训练分布的极端多样化。形态随机化让策略在训练时被迫面对一个连续的‘机器人族’分布,从而学到了一个鲁棒的控制先验;真实机器人只是这个分布中的一个样本,因此零样本迁移本质上是 in-distribution deployment。历史观测窗口的作用相当于 test-time compute:前馈网络利用时间上下文做在线系统辨识,补偿了因形态未知带来的不确定性。文中 Fig 5 显示,仅做动力学随机化的 A1-specific 策略在跨形态时迅速崩溃,而 GenLoco 能外推到训练分布之外,这说明形态随机化是核心增益来源。辅助因素包括 DeepMimic 框架提供的参考运动先验,以及周期性任务中相位变量带来的强结构约束。可以明确判断:如果把形态随机化去掉,仅靠 history,跨机器人泛化能力将大幅丧失;因此这是一篇‘数据覆盖/训练分布工程’驱动的论文,而非架构创新。

Relation To Prior Work

与标准的 sim-to-real domain randomization(Peng et al., Tobin et al.)相比,GenLoco 将随机化维度从摩擦、质量等动力学参数扩展到连杆尺寸等运动学参数,属于同一条技术谱系的延伸。与 cross-embodiment/manipulation transfer 中流行的 modular network、GNN(NerveNet, Huang et al.)、hardware-conditioned policy(Chen et al.)相比,GenLoco 的反直觉之处在于:它用了一个没有任何结构感知的普通 MLP,在真实机器人上取得了那些复杂架构在仿真中才能展示的跨形态效果。这说明对于真实部署,简单网络 + 足够覆盖的数据可能比精巧的图结构更实用。与 RMA(Kumar et al.)相比,RMA 在固定形态下用 adaptation module 做 online dynamics adaptation,而 GenLoco 把形态本身也纳入随机化,且完全省去了显式的 latent adaptation,依赖历史输入做隐式适应。实质创新不在于提出了新的学习算法或网络结构,而在于首次在真实四足平台上验证了‘极端形态随机化 + 历史观测’这一朴素组合的跨实体部署可行性。

Dataset / Evaluation

实验设计围绕‘同构模板内的跨机器人零样本迁移’展开,核心验证是真机部署(A1、Mini Cheetah、Sirius)。仿真中测试了包括 ANYmal 在内的 10 款机器人,值得注意的是 ANYmal 的倒置膝盖设计与训练模板不同,但仍在 12-DoF 同构范围内。任务仅限于两种周期性运动(pacing、spinning),依赖狗的动作捕捉数据重定向。这实际上是一个强约束的评估:周期性运动降低了控制复杂度,相位变量提供了强时间先验。虽然真机结果令人印象深刻(尤其是 Mini Cheetah-specific 策略在真机完全失败,而 GenLoco 成功),但评估并未覆盖非周期性高动态技能(跳跃、摔倒恢复),也未测试拓扑不同的机器人(如 8-DoF 或带腰关节的平台)。因此,实验支持‘同族参数泛化’的 claim,但不支持‘任意四足通用控制’的更强断言。

Limitation

方法成立严重依赖‘同构模板’前提:固定 12-DoF 和固定拓扑。这意味着它处理的是参数泛化,而非结构泛化。文中 Fig 5a/5b 显示,当机器人尺寸显著超出训练分布时性能骤降,说明策略并未学到真正的尺度不变性(scale-invariant physics),而是依赖训练分布内的模式记忆。此外,策略 implicitly 依赖 nominal standing pose 和关节级 PD 增益作为先验,这些虽不需要训练,但属于特定机器人的标称知识。核心能力的归因不够清晰:文中未充分消融历史窗口长度、形态随机化范围、参考运动重定向各自的作用,因此所谓‘通用性’很可能主要来自‘仿真中见过了足够多类似的机器人’,而非策略掌握了可迁移的物理规律。对于非周期性任务,短时历史窗口是否仍足够,文中未说明。

Takeaway

  • 最值得记住的两点:第一,对于同构机器人族,跨实体泛化的瓶颈可能不在网络架构(不需要 GNN 或 modular net),而在训练分布是否足够覆盖;这给‘机器人基础模型’的方向提供了重要启发——先构造足够宽的硬件分布,再谈通用策略。
  • 第二,历史观测(history of proprioception)是一种被低估的隐式系统辨识工具,在足式控制中足以替代显式的 adaptation module 或形态编码,这一 insight 可迁移到抓手、外骨骼等需要快速适配的场景。
  • 未来的真正突破不在于继续在同构模板内加宽随机化范围,而在于处理拓扑变化(variable DoF)和学习尺度不变的控制规律;结合少量真实数据的 online adaptation 可能比纯零样本更贴近实用。

一句话总结

GenLoco 属于将域随机化从动力学推进到运动学形态、以训练分布覆盖换取跨机器人零样本迁移的实证工作,它证明了在同构四足模板下简单前馈网络结合历史观测足以实现真实世界的跨实体部署,但其核心贡献是训练分布构造而非架构或算法创新。