精读笔记

Problem Setting

论文处理的是 learning-based MPC policy 中一个很具体但重要的断裂：神经网络负责预测 MPC problem parameters，例如 waypoints / costs / constraints，MPC solver 负责生成可行动作轨迹。标准 differentiable MPC 把这两者串起来：NN 一次前向，solver 解固定优化问题，loss 从最终解回传。这个 setting 的真正矛盾是：MPC 在部署时天然是 iterative、warm-started、stateful 的，但学习架构却把它当成 stateless black-box layer。以前方法卡住的地方不是不能求导，而是求导对象太“末端”：只对最终收敛解做 implicit differentiation，导致梯度受 active set、约束非光滑、ill-conditioning 影响很大；同时 NN 无法看到 solver 当前失败在哪里，因此只能一次性猜一个好优化问题。

Motivation

已有 differentiable MPC 路线默认 NN 和 solver 是两个独立模块：NN 输出参数，solver 消费参数。这种设计对简单凸/近凸问题尚可，但在非线性约束、多 active set、warm-start streaming MPC 中很脆弱。作者抓住的缺口是：solver iterate 本身包含大量关于当前问题难点的信息，例如哪些约束快 active、轨迹是否动力学可行、当前 waypoint 是否导致 infeasible tracking；但标准 NN 参数预测完全看不到这些信息。于是核心动机不是再做一个更强 solver，而是让 NN 和 solver 形成闭环：网络根据优化状态修正优化问题，优化器根据修正后的问题继续前进。

Core Idea

DEQ-MPC 的本质是把“预测 MPC 参数”与“求解 MPC 轨迹”合并为一个联合 equilibrium。传统 Diff-MPC 是 θ = NN(x,o)，τ = Solver(θ)；DEQ-MPC 则是 θᵢ = NN(x,o,τᵢ₋₁)，τᵢ = SolverStep(θᵢ,τᵢ₋₁)。这看起来只是交替迭代，但建模方式发生了根本变化：NN 不再预测一个静态问题，而是参与优化过程本身，成为一个 learnable optimizer-conditioning mechanism。

直觉上它可能有效，因为轨迹优化中的错误通常是局部、迭代暴露的：初始 θ 可能粗糙，但 solver iterate 会揭示 feasibility / constraint / dynamics mismatch，NN 可以据此调整 waypoints 或 cost parameters。相比 prior 的一次性参数化，这相当于给 differentiable MPC 增加了 test-time adaptive refinement 和 memory reuse。它的 inductive bias 更接近 SLAM/BA 中的 learned iterative refinement，而不是普通 policy network + optimization layer。

Method

关键机制可以压缩为三点。

1. 联合 fixed-point：把 NN inference 写成 θ = NN(x,o,τ) 的等式约束，并和 MPC KKT/优化条件一起求 fixed point。它解决的是信息流单向的问题，使 solver state 反过来影响 parameter estimation。核心变化是从 feed-forward composition 变成 recurrent inference。

2. AL-based MPC-m：每次不是把 MPC 完全解完，而是做少量 augmented Lagrangian iterations，然后把当前 τ、dual、penalty 等状态留给下一轮。它解决的是非线性约束和 warm-start 兼容问题。这里 AL 的价值在于允许“未收敛但有意义”的中间解参与学习，而不是只能依赖最终 KKT 点。

3. Intermediate iterate losses：训练时对多个优化中间结果监督，而不是只监督最终解。它解决的是 differentiable optimization layer 的梯度不连续和 active-set 任意性问题。早期 iterate penalty 小，梯度更 relaxed；后期 iterate penalty 大，更接近真实约束解。这实际上是一个从软约束到硬约束的 curriculum。

DEQ network 作为 NNϕ 的版本主要服务于稳定性和跨迭代 warm-start latent reuse。它是自然搭配，但不是 DEQ-MPC 成立的唯一必要条件。

Key Insight / Why It Works

最核心的有效性来源不是“用了 DEQ”这个标签，而是 representation alignment：网络输出的参数空间和 solver 当前轨迹状态被反复对齐。标准 Diff-MPC 要求 NN 一步预测一个对后续优化友好的 θ；DEQ-MPC 把这个难任务拆成多步 refinement，每一步只需根据当前 τ 修正 θ。这降低了学习难度，也让 network capacity 更容易转化成控制性能。

第二个关键来源是 test-time compute。DEQ-MPC 在 inference 时多次运行 NN + solver step，本质上用更多计算换更强适应性。论文把它表述为 equilibrium，但从工程归因看，很大一部分增益可能来自 iterative refinement，而不是严格意义上的 equilibrium theory。若不给同等预算的 recurrent Diff-MPC / learned warm-start baseline，增益归因仍不完全干净。

第三个关键来源是 gradient curriculum。AL 最终收敛点附近的 IFT gradient 很容易被 active constraints 的 Jacobian 投影压扁或变得任意；对中间 iterate 加 loss 让早期低 penalty 解提供更平滑的训练信号。这可能是训练稳定性提升的真正核心之一，甚至可能比 joint fixed-point 本身更重要。文中虽然有相关 ablation，但 joint coupling 与 intermediate supervision 的贡献仍未完全正交拆分。

DEQ-MPC-DEQ 的作用更像稳定器：当联合迭代系统更深、更敏感时，DEQ-style network 更适合做固定点映射并复用 latent。它并不必然提高 peak performance，但提高了在 ill-conditioned cost / harder horizon 下不炸的概率。这里的“infinite depth”不应被过度解读，实际更像参数共享的 iterative latent refinement。

我会把这篇论文的核心贡献判断为：把 differentiable MPC 从 black-box differentiable layer 推向 learned iterative optimization system。它不是发明了新的 MPC solver，也不是解决了非凸 MPC 的理论难题，而是提出了一个更合理的神经-优化信息耦合方式。

Relation To Prior Work

它最接近三条技术谱系：differentiable optimization layers / differentiable MPC，DEQ / implicit networks，以及 learned iterative refinement for SLAM/BA/pose estimation。与 Amos et al. 式 differentiable MPC 的本质差异在于，后者把 solver 当作 terminal implicit layer，DEQ-MPC 把 solver iterate 变成 NN 的输入，形成双向耦合。与 OptNet / cvxpylayers 等不同，它不强调凸优化层的精确可微性，而强调非线性受约束优化过程中的可训练迭代。

与 DROID-SLAM、Deep Patch VO、coupled iterative refinement 类工作相比，思想并不全新：learned module 和 optimizer 交替 refine 已经是视觉几何里的成熟范式。DEQ-MPC 的新增价值在于把这个范式迁移到一般 constrained MPC，并认真比较了 vanilla differentiable MPC baseline，指出 warm-start、active-set gradient、constraint hardness 下的差异。

所谓 DEQ-MPC 里的 DEQ 有两层含义：整体系统是 fixed-point，网络本身也可以是 DEQ。前者是实质创新；后者更像架构选择。论文标题强调 DEQ，但真正值得迁移的是 joint inference-optimization coupling，而不是必须使用 DEQ network。

Dataset / Evaluation

实验覆盖 Pendulum、Cartpole、Quadrotor、Quadrotor+Pole、障碍物约束版本，任务都在仿真、连续控制、trajectory prediction/tracking imitation setting 内。覆盖了从低维到中等维、从简单控制限到非线性避障约束的难度梯度，对验证“约束复杂度越高，joint coupling 越有用”是有一定说服力的。

但 evaluation 仍然比较窄：没有真实机器人，没有 contact-rich manipulation，没有长 horizon 大规模 MPC，也没有在线 RL 训练。数据来自 expert policy 生成的 offline trajectories，因此泛化 claim 更多是同分布或近分布 trajectory imitation 下的泛化，不是开放环境泛化。论文展示了 dataset size / hidden size scaling，但这也说明增益可能部分来自更高 test-time compute 和更强 supervision，而不是方法天然具备更强 task reasoning。

warm-start 评估是论文比较有价值的部分，因为它贴近 MPC deployment 的真实需求；不过 streaming training 和 streaming evaluation 分布高度匹配，是否能应对 sudden distribution shift、model mismatch、dynamic obstacles，文中未充分说明。

Limitation

最大限制是理论收敛与实际稳定性的断层。论文用 fixed-point / monotonicity 语言描述，但对于真实非凸受约束 MPC + NN 映射，强单调、Lipschitz、收敛域等条件基本不可验证。实际可行性依赖训练后系统经验上稳定，这对 safety-critical MPC 仍然不够。

第二，方法可能把一次性预测难题转移成了“学习一个稳定的 solver-conditioned recurrent map”。这并不一定更简单，尤其在长 horizon、高维接触、多模式规划中，τ 输入本身可能巨大且多解，NN 根据当前 iterate 修正 θ 可能陷入局部 basin。论文的任务大多是 trajectory tracking，而不是需要离散模式选择或长期策略推理的规划。

第三，增益归因不完全清楚。DEQ-MPC 同时改变了信息流、训练 loss、solver unrolling budget、warm-start 方式和 architecture。部分收益可能主要来自 intermediate loss 和更多 test-time iteration，而不是 joint equilibrium 本身。还需要与同等 compute 的 recurrent parameter predictor、learned warm-start optimizer、unrolled AL with auxiliary losses 等更强 baseline 比较。

第四，泛化可能强依赖 expert data coverage。当前 imitation setup 下，NN 学的是把状态映射到未来轨迹/waypoints，再由 MPC 做 feasibility projection。所谓 planning ability 很可能仍然是 expert trajectory manifold 上的 interpolation；面对训练数据未覆盖的 obstacle layout、dynamics mismatch、constraint change，是否仍能自适应，文中没有证明。

第五，真实部署成本未充分讨论。DEQ-MPC 在每个 MPC step 内多次 NN forward + AL iteration，如果问题规模上升，compute / latency / memory 可能成为瓶颈。文中说 warm-start 能减少 iterations，但没有给足 real-time profiling 或硬件闭环证据。

Takeaway

• 1. 对 optimization layer，不应只问“能不能微分”，更应问“网络和优化器的信息流是否匹配优化过程”。
• DEQ-MPC 的重要启发是让 learned module 读 optimizer state，而不是只生成一次性参数。
• 2. 在受约束 differentiable control 中，中间 iterate 的训练信号可能比最终 KKT gradient 更可靠。
• 把未收敛优化过程当作 curriculum，是一个值得迁移到 differentiable planning、bundle adjustment、contact optimization 的 insight。

一句话总结

DEQ-MPC 是把 differentiable MPC 从“NN 后接一个可微优化层”推进到“NN 与 MPC solver 联合迭代求平衡”的方法演化，真正贡献在于重新组织学习模块和优化器之间的信息流，而不是单纯引入 DEQ 架构。