UMR 精读:人体表面如何成为机器人的动作接口
UMR 精读:人体表面如何成为机器人的动作接口
BruceLee人形机器人双手抱住一颗球,看起来只是把人的手臂动作换到机器人的身体上。但如果仔细观察,就会发现一个很容易被“动作很像”掩盖的问题:机器人的手腕可以到达正确位置,手掌却碰到了球的错误区域。人体与机器人之间的手掌厚度、腕部安装方向和前臂比例只要稍有差异,骨架上的接近就可能变成表面上的错位。到了搬运、推拉、扶地和上下台阶这些任务中,几何错位会进一步改变接触关系。
这也是我读 UMR 时最关心的问题:当身体结构发生变化,一段动作中究竟有哪些东西值得保持?关节角、末端位置、身体轮廓、接触区域与任务结果,并不是天然等价的目标。一个重定向系统选择什么作为中间表示,就已经在决定哪些信息能够被保留下来,哪些信息会在后续优化开始之前丢失。
Hanyang Cao 等人提出的 Unified Motion Retargeting for Humanoids with Learned Point Cloud Correspondence,把人体和机器人的外表面作为共享接口:在规范姿态下学习可复用的点云对应,再利用这些对应点约束机器人运动。它的价值首先体现在问题表示上。表面上的位置、朝向和接触关系能够进入同一个优化框架,跨身体映射也因此减少了对逐项指定关节语义的依赖。
本文依据 2026 年 9 月 7 日的论文 v2。涉及代码的解释固定到官方仓库 2026 年 9 月 10 日的 d6bb761 提交。下文中的实验数字均来自论文;额外的公式推导和研究设想会在相应位置说明,不代表我已经完成复现或真机验证。
文中嵌入了人体表面到远征 A3 的交互动画,可以切换三个损失、调节排斥尺度,并观察同一批表面点如何迁移。
动作相似性需要一个可以计算的定义
在基于参考动作的机器人学习中,重定向处在一个非常关键的位置。上游提供人体动作,下游训练控制策略跟踪机器人参考轨迹,而重定向负责把两者接起来。参考轨迹中的穿透、滑步或不合理姿态都会成为学习器必须处理的目标冲突:奖励要求它接近参考,动力学又要求它离开某些参考状态。
这条研究脉络可以追溯到动作模仿控制。Xue Bin Peng 在介绍 DeepMimic 的 Towards a Virtual Stuntman 中,用参考动作解释了如何让强化学习产生自然的运动。对于真实人形机器人,问题还要向前推进一步:参考动作本身需要适应新的身体。GMR 的论文 Retargeting Matters 将重定向质量与后续策略表现联系起来,通过控制训练设置,研究参考中的伪影如何影响跟踪鲁棒性。UMR 延续了这一问题意识,将改进的重点放在对应关系的表示上。
设人体动作由随时间变化的表面 $S_t^h$ 描述,机器人由广义坐标 $q_t$ 决定其表面 $S^r(q_t)$。一个抽象的重定向问题可以写成
其中 $\mathcal{Q}$ 表示允许的机器人构型,$\mathcal{C}_t$ 表示需要考虑的接触关系。这是用于理解问题的概括式,并非论文新增的算法。它暴露出真正困难的部分:两个表面不一样,甚至不能逐个配对关节,距离 $\mathcal{D}$ 应当怎样定义?
传统的稀疏映射通常先选定对应的关节、刚体或关键点,再最小化这些锚点之间的位置与方向误差。这种设计有明确语义,计算也相对直接,但它只观察被选中的部位。位于两个关节之间的前臂表面、手掌实际接触球的位置,以及膝盖与地面的间隙,都不一定被这些锚点充分表达。已有交互重定向方法也会加入几何和接触约束,因此不能把整个领域简化成“只匹配关节”。UMR 更具体的变化,是把跨身体的对应本身建立在外表面上。论文第 II 节
例如,OmniRetarget 已经通过交互网格表达人体、物体与环境的关系,并通过拉普拉斯形变目标保持交互几何。UMR 的新意应当放在这个背景中判断:接触保持并非新出现的需求,更值得关注的是如何学习整个身体表面的索引对应,以及怎样让同一套对应同时服务于姿态和交互重定向。OmniRetarget 原论文
这里的“表面”不要求人体和机器人拥有相同网格拓扑。只要能够给出规范 T-pose 网格,以及运动过程中与这个模板相联系的表面,就可以将其采样成统一形式的点云序列。SMPL-X、SOMA、绑定骨架的动画角色和扫描后驱动的人体网格,可以从不同的数据结构进入这一接口。机器人一侧则仍然依靠自己的运动学模型来生成表面运动。
因此,Unified 有一个明确范围:统一的是表面级重定向的接口与求解方式。源数据仍需经过建模和适配,机器人仍需提供规范姿态、运动学结构与关节限位。任意单目视频、无时间关联的观测点云、遮挡下不完整的人体重建,并不会因为换成点云表示就自动满足这些条件。论文也把对规范模板和网格几何的依赖列为当前限制。论文第 III-A 节与第 V 节
规范姿态中的对应关系
UMR 将“谁对应谁”和“这一帧怎样运动”分开处理。人体与机器人先各自摆成经过对齐的规范姿态,在这个姿态下建立表面对应;之后固定对应身份,只让这些点随着各自身体运动。这种拆分把相对稳定的形态差异与不断变化的动作姿态分离,避免每帧重新寻找最近点而造成对应跳变。

图示引自 Cao 等人的 UMR v2 图 2,按原文 CC BY 4.0 许可使用。左侧建立可复用的表面对应,右侧以它为基础生成运动参考;后续控制策略训练属于另一阶段。原图出处
令人体模板上的有序点集为 $X^h=\{x_i^h\}_{i=1}^{N}$,机器人模板采样得到的无序点集为 $X^r=\{x_j^r\}_{j=1}^{N}$。这里“有序”指每个点拥有稳定索引,并不表示它们已经与机器人点配对。机器人输入点的排列次序不具有对应语义,人体模板的索引才定义了后续要保留的身份。
论文使用一个 PointNet 风格的编码器 $E_\theta$ 汇总机器人点云,再用 MLP 解码器 $D_\theta$ 为每个人体模板点输出一个位移:
于是,输出的第 $i$ 个机器人侧位置天然继承人体第 $i$ 个点的身份。网络预测的是模板的变形场,而不是从机器人无序输入中直接取出“第 $i$ 个点”。这种设计将点集重建与索引保持结合起来,是理解整篇论文的关键。论文式(1)
公开实现中的编码器通过逐点特征与最大池化得到整体描述,解码器输出固定数量的位移槽;最后一层可以零初始化,使训练从人体模板本身开始。结合对齐的 T-pose,这形成了一个倾向于连续变形的初始化先验。对于同一个源模板与目标机器人,对应设置可以跨动作复用;换成不同的模板形状或机器人时,则需要相应的对应准备。它没有在论文中被证明为一个对任意未见机器人直接零样本推理的通用预训练模型。对应网络实现
训练目标由三个主要部分组成:
其中对称 Chamfer 项衡量重建点集与机器人表面的接近程度:
前一项要求每个预测点落到机器人表面附近,后一项要求机器人表面得到覆盖。但 Chamfer 距离只观察集合。任意交换两个预测点的索引,都不会改变这个距离。因此,较低的 Chamfer 损失本身并不能证明左手对应左手、前臂对应前臂,更不能证明对应关系具有任务语义。
排斥项缓解多个预测点拥挤在同一区域的问题。论文令 $\mathcal{N}_r(i)$ 表示预测点 $i$ 的 $K_r$ 个近邻,并采用
点距很小时惩罚较大,因而鼓励更分散的覆盖。但这个项同样不理解身体结构,它解决的是局部聚集,而非语义对应。
这里的 $r$ 是排斥核的长度尺度,决定惩罚随点距衰减的快慢。它与后文表示整体残差的 $r(q_t)$ 不是同一个量。为了直观理解,假设点坐标以米计,取 $r=0.02\,\mathrm{m}=2\,\mathrm{cm}$,记两点距离为 $\delta$,则单个近邻点对的惩罚为
这说明 2 毫米的近邻点对受到很高的聚集惩罚,1 厘米时惩罚仍然明显,10 厘米时这一项几乎可以忽略。固定点距时,增大 $r$ 会让更远的近邻仍具有较大的惩罚;减小它,则主要关注距离非常近的点。但这不是一个“半径内有作用、半径外完全无作用”的硬边界,而且论文只对选出的 $K_r$ 个近邻计算这一项。上述厘米例子用于解释尺度;若点云已经做过高度归一化,$r$ 也必须按归一化坐标理解,不能把配置中的数值直接读成米。
还需要区分惩罚值和点移动的大小。对单个点对,梯度下降所对应的排斥方向为
因此,“距离越近,惩罚越大”不等于“距离越近,排斥梯度一定越大”。这个梯度幅值在 $\delta=r/\sqrt{2}$ 附近最大;完全重合时,虽然惩罚达到最大值,梯度却为零。一个方向尚未区分的重合点对,不能仅靠这项光滑损失自行决定向哪里分开。实际是否解开聚集,还依赖初始化、其他损失以及网络参数化;改变 $r$ 也不会让每个距离上的梯度都单调增大。把它描述成“排斥力”可以帮助理解方向,但不能忽略上述数学区别。
真正将人体结构带入变形场的是边平滑项。作者在人体模板上建立固定的测地邻接图 $\mathcal{E}$,要求相邻点的位移保持相近:
测地邻域沿人体表面定义局部关系。这个选择很有意义:两块表面可能在三维空间里靠得很近,却沿网格相隔很远,例如上臂与躯干附近的表面。只按欧氏距离连边,可能会把解剖上分离的区域错误耦合。测地关系更接近“同一片身体表面应当协同变形”的先验。论文式(2)—(5)
从图信号处理的角度看,如果将所有位移堆成矩阵 $D$,上述边能量与 $\operatorname{tr}(D^\top L D)$ 成正比,其中 $L$ 为模板图的拉普拉斯矩阵。这是对论文公式的等价理解:它抑制变形场沿表面的剧烈变化。平滑过弱时,对应可能局部错乱;平滑过强时,又可能难以适应人和机器人之间真实的局部形态差异。
所以,对应质量来自几何覆盖、分散性、局部连续性、规范姿态对齐和初始化的共同作用。这些归纳偏置可以产生有效的索引对应,却没有给出严格双射、无折叠或解剖语义正确性的数学保证。人体与机器人外形越接近,这组先验越容易发挥作用;面对手指数量不同、复杂工具附件或强烈不对称的身体结构时,其适用范围需要重新验证。
人体模板上的区域标签也没有被取消。对应建立后,机器人点可以继承人体点的区域身份,因此手、脚、躯干等区域的采样数量与优化权重可以在同一源表示下跨机器人复用。人工设计从逐个指定人机部位配对,转移到规范模板、表面区域与任务权重的选择上。官方文档也说明,适用于 G1 的默认权重可以迁移,但未必对每种机器人都最优。配置说明
把三个公式放回同一幅图景中,Chamfer 回答对应点应该靠近哪里,并通过反向最近点项鼓励覆盖机器人表面;Repulsion 降低重建点过度拥挤的倾向;边平滑则要求人体表面上的邻居以相近的位移进行迁移。最后一项约束的是位移差,不是要求所有点的位置彼此接近,也不是要求人体与机器人的每条局部边等长。三者在竞争中寻找折中:贴合、分散和对应连贯都重要,单独最小化其中任何一项都不足以定义可靠的跨身体映射。
交互动画:从人体表面到远征 A3
下面的动画可以直接关闭某一项、调节排斥尺度,或施加一次固定扰动再观察更新。人体侧采用带有面部、手掌与脚部细节的 MakeHuman 网格,机器人侧采用远征 A3 的真实 URDF 与链接网格,在规范展开姿态下显示实体表面和采样点。动画直接计算三个损失对点位置的梯度,展示人体模板点如何逐步移向机器人表面;还可以切换上身、手部特写,或隐藏实体只观察点的迁移。前臂放大图显示三项负梯度的方向,固定邻接沿人体三角网格的边路径近似测地邻域。这里使用的 MakeHuman 与 A3 是为解释机制选择的模型,分别归一化到单位高度,并非论文的 SMPL 模板与实验组合;动画不运行对应网络,也不代表 A3 实机实验。三项联合优化鼓励更充分而分散的表面覆盖,但没有严格均匀、双射或任务成功的保证。
也可以单独打开交互动画,获得更大的观察区域。人体网格采用 MakeHuman 公开的 CC0 资产,A3 采用本项目机器人工作区中的 a3_t2d5 模型,具体版本与关节姿态记录在模型来源说明。值得特别区分的是,这三个损失负责建立表面对应;动作中的接触保持还需要后续的姿态与接触优化,Repulsion 并不是机器人与环境之间的碰撞约束。
从静态对应到连续运动
学到规范姿态下的一组位置还不够。机器人抬手时,人体模板中的手掌点需要继续指向同一个机器人表面位置,否则“对应”只是两张静态形状之间的一次拟合。
UMR 在人体一侧使用网格绑定。如果某个源点位于三角形 $(v_a,v_b,v_c)$ 上,其重心坐标为 $(\alpha_i,\beta_i,\gamma_i)$,那么后续帧的目标位置可以写成
三角形顶点随着人体模型运动,绑定点也随之移动。机器人侧则把对应点绑定到刚体局部坐标,利用正运动学生成世界坐标:
这里 $\ell(i)$ 表示该点所在的机器人刚体。这两种运输方式不同,却保持同一个索引 $i$。规范形态之间的对应由此转化为每一帧的运动目标。论文第 III-C 节
位置之外,UMR 还约束表面朝向。论文将点级姿态残差写为
其中带横线的法线量考虑了各自 T-pose 绑定所提供的参考。这个限定不能略去:人体前臂的局部曲面和机器人的外壳朝向可能先天不同,直接要求它们的原始法线重合,会把静态形态差异误当成运动误差。论文式(7)
公开代码提供了更具体的解释。在当前 SMPL 路径中,它为人体绑定三角形建立规范局部坐标架 $B_{0,i}^h$,为当前三角形建立 $B_{t,i}^h$,通过二者得到局部旋转,再运输机器人规范姿态的法线:
求解器实际比较机器人当前法线与这个目标法线。这段实现保留机器人自身的初始几何朝向,再要求它跟随人体局部表面的转动;它也说明,论文中的 normal offset 不宜想当然地实现为每帧直接减去一个固定世界坐标向量。法线运输实现
法线约束补充了点位置的局部方向信息,但一条法线仍然不能单独确定绕自身轴线的旋转。多个空间分布合理的点与方向,需要共同作用才能充分约束一个刚体。密集采样的意义因此也不能简单理解为点越多越好。
对位置残差进行局部线性化,可以得到一个值得注意的结果。令 $J_i=\partial x_i^r/\partial q$,则这些表面约束在关节空间诱导的局部二次型为
再加上法线项对应的贡献。这是从最小二乘目标得到的分析,而非论文单独提出的模块。它说明采样位置、采样密度和权重共同决定优化器“看重”哪些机器人运动方向。增加点数不会增加机器人自由度;重复采样同一小片区域,可能主要是在提高该区域的有效权重。真正需要判断的是点集是否覆盖了任务相关的运动信息,以及这个局部度量是否病态。
这也解释了为什么表面表示仍需区域选择。躯干面积很大,手指或足底接触区域很小,若仅按面积堆积点数,小区域对任务的作用可能被整体平均误差淹没。表面对应让这些部位进入了可优化的表示,任务权重则决定了它们在冲突发生时有多重要。
接触项究竟约束了什么
抱球任务可以直观地检验表面表示的价值。如果目标只是将手腕移到球附近,那么掌心与手背甚至可能在优化中没有清晰区别。表面对应提供了更细的索引,使“哪一片手部表面接近物体”成为可以描述的对象。
从刚体几何看,设手腕位置为 $p_w$,手部姿态为 $R_w$,某个掌面点在手部局部坐标中的位置为 $a$,其世界位置为
即便手腕的位置相同,只要姿态或局部表面偏移不同,真实接触位置就会改变;即便手腕位置与姿态都相同,人和机器人不同的手掌厚度、掌面形状与安装几何仍会改变 $a$。因此,骨架锚点对齐并不充分确定表面接触。这个简式也解释了法线约束的意义:优化器需要同时观察接触位置与表面朝向,才能区分掌心托住物体、手背擦到物体以及边缘碰到物体等几何情况。
表面表示的优势还在于接触可以发生在两个关节之间,而不限于预先命名的末端。前臂托住物体、膝盖触地、躯干靠住支撑面,都可以通过相应的表面点进入统一表示。对应点的稳定索引使同一片区域能够贯穿整个动作序列,接触权重也可以落实到具体表面位置,而不必只作用于整个手或整条手臂。这些位置、朝向与区域连续性信息,是稀疏关节锚点较难同时提供的。
这份优势属于接触几何的表达能力。采样不足仍会漏掉小接触区域,错误对应也会传递错误标签;仅凭几何距离还不能判断承重、摩擦与接触力。UMR 的价值在于让这些接触相关信息可被传递和约束,其能否支持实际交互,还需检查后续优化与控制结果。

图示引自 UMR v2 图 8,按 CC BY 4.0 许可使用。它展示的是一个定性案例:手部整体位置相近时,实际贴近物体的表面仍可能不同。普遍有效性还需要结合下游实验判断。原图出处
论文将环境表示成点集 $Y_t=\{y_{t,j}\}_{j=1}^{M}$。以下位置都在完成尺度与坐标对齐的重定向坐标系中比较。对人体点 $x_{t,i}^h$,先找到最近的环境点
再利用同一个环境点定义人体与机器人的接触向量:
源点到环境的距离不超过阈值 $\tau_c$ 时,该点进入活跃集合 $\mathcal{C}_t$。相应残差为
用向量而非单一距离描述关系,可以区分物体附近不同的空间方向。表面索引又使这份关系能够随人机对应转移,不必额外手工指定人体接触区域与机器人部位的映射。但阈值定义的“接触”首先是一种几何近邻关系,它不会自动告诉我们接触是否承重、是否滑动,以及作用力应有多大。论文式(8)—(11)
这里有一个值得把代数真正算完的细节。严格按照论文式(10)中共享同一世界坐标环境锚点的定义,且不修改目标向量时,有
因此,在这一特定条件下,外部接触项等价于对活跃接触点追加位置权重:
这是由论文定义得到的条件性推导。它不意味着接触项没有作用:环境仍决定哪些表面点进入活跃集合,以及形态冲突发生时哪些位置必须优先保持。它揭示的机制很具体——在共享锚点的情形中,接触信息通过选择与加权改变了姿态拟合的优先级,而没有凭空增加独立的力学约束。
这个结论也不能不加条件地套到整个公开实现上。当前物体接触路径区分源物体和重定向物体的采样,支持不同的物体尺度;接近阈值内的目标向量可以被吸附为零。如果对应环境点分别为 $y_i^h$ 和 $y_i^r$,那么残差中还会保留 $y_i^h-y_i^r$,不再发生上述完全抵消。代码还提供随机器人构型移动的目标点模式,此时雅可比需要包含两端运动的差。目标接触向量构造,接触残差求解
地面接触也有额外处理。当前实现包含地面高度残差,以及维持活跃接触点位置的地面锚点。这种带状态的锚点机制会对滑动产生不同于单帧位置拟合的影响。因而,读者既不应将论文中的接触向量直接理解为完整接触动力学,也不应仅凭上述代数抵消,就断言代码的所有接触机制都只是重复一遍位置损失。地面接触与锚点实现
自接触还涉及另一个层次。当手与身体其他部位发生接触时,关系的两端都随机器人运动。论文将外部环境点替换为另一个非相邻身体区域的对应点,其表达对象变成身体内部的相对关系。这种关系通常不会在共同的全局平移下改变。进一步说,身体与环境的关系、身体内部的关系以及持续接触的时间状态,各自携带不同信息;把它们全部称为 contact map 时,仍需要检查其实际数学定义。
带约束的局部优化与时间连续性
完成目标构造后,UMR 在每一帧求解机器人广义坐标。位置、法线与接触残差通过正运动学非线性地依赖 $q_t$,论文将它们堆叠成 $r(q_t)$,在当前估计附近线性化:
随后求解带阻尼的局部子问题:
关节限位限定姿态范围,线性不等式在论文中用于地面间隙,阻尼抑制不稳定的局部更新,步长范围则限制线性近似的使用区域。对于浮动基座与旋转,实际实现还需通过相应的配置空间积分更新;式中的直接相加是局部记号,不能照搬成对四元数分量的普通加法。论文式(12)—(14)
以离地约束为例,若点高度为 $z_i^r(q_t)$,地面高度为 $z_f$,则希望更新后的高度满足 $z_i^r(q_t+\Delta q)\ge z_f$。线性化得到
这个式子的作用是阻止局部更新把相应表面点推到地面下方。它并不要求接触点保持零切向速度,也没有引入摩擦、接触力或质心平衡。采样点约束还受采样覆盖和线性近似误差影响,不能等同于整块网格在任意运动幅度下都没有穿透。
从数值优化角度,论文将这一步称为 Gauss–Newton QP。严格说,若保留 $\ell_2$ 范数的信赖域约束,子问题具有二次目标和二阶锥约束,不是仅含线性约束的标准 QP。公开实现确实通过 Clarabel 的 SecondOrderConeT 表达这类步长限制。这不影响方法成立,却影响复现时如何选择求解器。Clarabel 子问题实现
另一个容易混淆的量是 $\Delta q$。这里它表示一次优化迭代中的构型增量,并不自动等于真实控制周期里的速度乘以时间。限制迭代步长有助于数值稳定,但如果一帧内执行多次迭代,就不能据此直接宣称已经满足机器人电机的速度或加速度约束。
时间连续性也需要单独处理。论文的主要目标式突出单帧表面与接触拟合,而当前代码还加入相邻帧关节差分与二阶差分项。对于代码选择的标量关节坐标 $\tilde q_t$,它们可概括为
这类项在固定采样率下抑制帧间跳变与差分变化;由于代码中的表达并未在这里按时间间隔换算,它们应理解为差分正则,不宜直接赋予已经标定的速度、加速度物理单位。时间平滑实现
局部优化还存在历史依赖。同样的目标姿态,从不同初值出发,可能收敛到不同的关节构型。官方批处理配置推荐双向 warm start:沿时间正向和反向分别求解,再用动态规划在两条候选轨迹之间选择,综合单帧代价、相邻帧连续性以及切换代价。这是一个很实用的工程补充,不过它选择的是已有候选,并不等于对所有帧的所有关节自由度完成了全局最优的时空优化。双向选择实现
效率也要放在相应流程中理解。论文表 I 在 RTX 4070 Ti SUPER 与 Intel Core Ultra 7 265KF 上报告,可复用的对应准备总计 25.79 秒,其中采样 9.83 秒、测地预计算 5.58 秒、对应训练 10.38 秒。逐片段预处理为 141.46 FPS,重定向为 121.26 FPS,包含这两部分的整体吞吐为 65.29 FPS。这些结果说明一次对应准备可以被多段动作摊薄,但整体耗时仍取决于有多少种源模板与机器人配对。论文表 I
这些吞吐数字也没有直接证明在线闭环遥操作的端到端延迟。规范网格准备、感知重建、缓存是否命中、使用顺序求解还是需要未来帧的双向处理,都会改变系统条件。把“数据生成足够快”和“在线控制链路满足延迟要求”分别测量,才能合理判断部署用途。
运动学参考与动力学控制之间
UMR 输出的是机器人参考运动。这个定位并不削弱它的价值,却决定了应该如何阅读“可行”这个词。关节不过限、表面不明显穿地、接触区域更接近人体,都属于非常有用的几何与运动学性质;它们无法单独回答电机能否提供所需力矩,支撑足会不会滑动,或者一次跳跃是否有足够的起跳动量。
如果要显式检验动力学,还需要面对类似
这样的关系。这里 $v$ 为广义速度,$M$ 为惯性矩阵,$h$ 包含重力与速度相关项,$\tau$ 为驱动力矩,$\lambda$ 为接触力,$S$ 选择受驱动自由度。接触还涉及非负法向力、摩擦锥、接触间隙和作用力之间的互补条件,驱动器也有力矩等限制。这些是说明执行问题所需的通用动力学条件,并非 UMR 论文目标式中已经包含的约束。
论文通过训练跟踪策略并进行仿真、跨仿真和真机展示,验证参考的实际用途。较好的重定向轨迹可以让后续学习更容易,也可以减少策略为修正不合理参考而付出的代价。但策略仍需要在真实动力学约束下产生动作,其跟踪结果不会与运动学参考严格相同。
这里存在一个有研究价值的权衡。如果参考完美保留了人体几何,却超出了机器人能力,策略可能持续受到相互冲突的训练信号;如果参考为了便于跟踪而过度简化,又可能损失动作意图。合理的重定向应当在任务要求与机器人能力之间寻找可接受的折中。UMR 提供了更细致的表面描述,而“应该牺牲什么、必须保持什么”仍然需要任务层面的判断。
这也与 BAIR 关于真实机器人学习的 The Ingredients of Real World Robotic Reinforcement Learning 所强调的系统条件相呼应:观测、环境设置与学习目标会影响一项能力实际成立的范围。对于 UMR,论文图 3 的抱球与后退转向展示明确使用了动作捕捉系统,因此这项展示支持的是相应实验条件下的策略部署,不能进一步推断为完全依靠机载感知完成开放环境操作。论文图 3
实验结果的解释边界
UMR 的实验覆盖了多种动作源与机器人、逐动作跟踪、大规模策略训练,以及物体和场景交互。它们回答的是不同问题,证据强度也不同。论文图 5 展示了四种源表示与五种人形机器人的定性结果,机器人高度跨越 0.75 米至 1.83 米;所有定量评估则集中在 Unitree G1 上。因此,可以认为论文展示了接口跨表示和跨形态的适用性,但还不能认为所有定量优势都已在每一种机器人上得到验证。论文第 IV-A 节
逐动作跟踪采用 LAFAN1 中有 Unitree 重定向参考的 40 段动作,在 BeyondMimic 框架下比较 UMR、GMR 和 Unitree 参考。论文区分不使用域随机化的仿真、使用域随机化的仿真以及 Sim2Sim。表 II 的每个条目基于 4,096 次试验,成功定义为在固定参考窗口内完成跟踪且不触发终止条件。这个定义应当与结果一起阅读:它是给定评估协议下的跟踪成功,不能直接解释成任意时长的稳定运动能力。
UMR 相对 GMR 的收益在困难动作中较为明显。不使用域随机化时,Fall and GetUp 从 84.717% 提升到 96.981%,Fight 从 87.603% 提升到 99.941%。在 Sim2Sim 中,Fight 从 79.492% 提升到 95.298%,Sprint 从 71.460% 提升到 86.426%。这些数据支持一个实际判断:更好的参考质量能够影响后续控制的鲁棒性,且这种影响在部分具有挑战性的动作与环境变化下更显著。论文表 II
不过,同一张表也揭示了剩余困难。Fall and GetUp 的 UMR 成功率在无域随机化仿真中为 96.981%,在有域随机化仿真中为 95.618%,到 Sim2Sim 却下降到 34.920%。它仍高于 GMR 的 32.096%,但低于 Unitree 参考的 46.899%。这个结果说明,起身类动作的跨仿真执行问题远未被高质量几何重定向完全解决。要解释下降来自接触参数、控制策略还是参考本身,需要进一步实验,不能仅凭表格指定一个原因。
UMR 也没有在所有无域随机化类别中超过 GMR,例如 Jump 和 Walk 的成功率略低。两者已经非常接近成功率上限时,细小差值需要谨慎解释;论文未在这张表中给出跨独立训练种子的置信区间。4,096 次评估可以降低相应 rollout 统计中的抽样不确定性,却不能替代独立训练重复,更不能单凭试验次数宣称所有微小差异都具有统计显著性。
跟踪误差提供了另一个观察角度。表 III 中,无域随机化条件下,平均全局身体位置误差从 GMR 的 198.89 毫米降到 UMR 的 89.61 毫米;根节点相对的身体位置误差从 43.23 毫米降到 29.71 毫米。前者包含整体位置偏离,后者更侧重身体内部的姿态关系,不能互换使用。论文还报告关节角误差,其单位是 $10^{-3}$ 弧度,阅读时尤其要避免当成角度或毫米。论文表 III
这些误差衡量策略跟踪各自机器人参考的程度。因为不同重定向方法提供的参考本身不同,误差较低支持“这份参考更容易被相应策略准确执行”,但不能单独证明它更忠实地保留了源动作的全部语义。一段被过度简化的动作也可能容易跟踪。因此,跟踪误差需要与接触几何、源动作保真和任务完成情况一起判断。这是对评估方式的分析,并不否认论文展示的跟踪收益。
大规模实验将 UMR 放入 BONES-SEED 与 SONIC 的组合中。SONIC 的 SMPL 编码器把人体动作映射到与机器人动作对齐的潜在空间,提供机器人参考之外的额外训练信息。论文分别在启用和禁用该编码器时比较参考质量:启用时,两类参考的训练表现较为接近;禁用时,UMR 在总奖励、锚点位置误差和关节角误差上取得更好的表现,作者描述训练末期约有 10% 的相对改善。这是特定训练配置下的近似结果,不是所有机器人任务都提升 10% 的普遍结论。论文图 7 与第 IV-B 节
更关键的是,这组对比同时改变了源表示。原有 BONES-SEED G1 参考由 SOMA-Uniform 配合 GMR 生成,UMR 则直接处理保留演员体型差异的 SOMA-Proportional。保留个体几何本身就是有意义的能力,也可能改善接触;但从因果归因上说,这个实验展示的是“源表示与重定向流程”的组合收益。若要分离学到的表面对应单独贡献了多少,需要在相同人体表示、相同动作与相同训练预算下进行交叉比较。
接触任务最能体现为什么多个指标必须一起看。与 OmniRetarget 相比,UMR 在 Carry 上将成功率从 82.89% 提升到 99.28%,物体误差从 0.252 米降到 0.081 米;Kick 的成功率从 83.13% 提升到 99.98%,物体误差从 0.215 米降到 0.038 米。对应关节误差也下降,Carry 从 1.030 弧度降到 0.570 弧度,Kick 从 1.396 弧度降到 0.619 弧度。这些结果支持其参考对交互跟踪有实际帮助。论文表 IV
Push 则呈现不同情况:成功率为 99.99% 对 99.87%,物体误差为 0.048 米对 0.049 米,都已非常接近;但关节误差仍从 1.043 弧度降到 0.630 弧度。如果只看成功率,会漏掉身体跟踪质量的明显区别;如果只强调关节误差改善,又容易让读者误以为物体任务结果也有同样幅度的提升。论文也指出,OmniContact 的终止判据相对宽松,机器人即使偏离参考姿态较多,仍可能成功推动物体。
在 GRAIL 场景交互中,Stair 从 11.01% 提升到 43.53%,增加了 32.52 个百分点,属于明显改善;但 43.53% 的绝对成功率依然显示任务困难。Slope 从 52.37% 提升到 58.32%。Chair 上则是 OmniRetarget 更好,成功率为 79.67%,UMR 为 75.24%,关节误差也略占优势。公平的解读应当保留这个反例,不能将表 IV 压缩成“UMR 全面领先”。
论文讨论了 GRAIL 源运动中重建误差与接触启发式之间可能的失配,并提出这或许解释了部分方法差异。这是作者给出的可能原因,尚不是被单独消融验证的因果结论。原文的主要证据仍然是:在规定的下游训练协议中更换参考后,UMR 在大多数列出的交互任务上取得了更好的指标。论文第 IV-C 节
最后,v2 正文并未给出完整的组件消融来分别量化测地平滑、排斥、法线与接触项的独立贡献,也没有以系统实验回答采样数量、对应错误率或源网格噪声怎样影响最终控制。现有实验能够支持整个流程有用;对于某个局部设计为什么有效、收益有多大,仍应保留验证空间。
把 UMR 用作研究基础
如果沿着这项工作继续研究,我会先把两个评价对象分开:对应关系本身是否正确,以及使用这份对应生成的参考是否适合任务执行。训练损失下降只能说明拟合目标得到改善。即使点云形状覆盖得很好,关键接触区域依然可能对应错误;反过来,某些几何上不完全一致的对应,也可能更符合机器人的关节能力。
一个有辨识力的实验,应当固定源人体表示、机器人模型、动作集合和下游训练配置,再比较不同对应方式。固定点数后改变对应机制,才能研究“学到对应”的贡献;固定对应后改变采样密度,才能研究“更多约束”的贡献。接触区域错误、源动作失真、参考的自碰撞和滑步、策略跟踪以及最终任务表现,需要形成一条可追踪的证据链,而不能只用最终奖励把全部中间误差压缩掉。
同样值得检验的是表面质量的不确定性。真实重建中的遮挡、衣物、局部穿插和人体形状估计误差,会使不同表面点具有不同可信度。UMR 的几何目标目前主要通过区域和任务设置权重;一个自然的扩展是让权重同时反映观测置信度。较确定的接触区域应当保留强约束,重建不稳定的表面则允许更大的调整余量。这是一个后续研究方向,不能写成论文已经采用的不确定性建模。
静态几何也未必充分表达运动能力。两个模板点在 T-pose 中很接近,不代表机器人上的对应位置能在整段动作中产生相似的运动。机器人关节轴线、活动范围和身体耦合方式都会改变局部可达方向。如果进一步学习任务相关的对应,或许需要把局部运动雅可比、可达性和接触可执行性纳入目标,同时约束对应不要在时间上任意变化。这里的挑战,是在形态适配与稳定身份之间保持平衡。
这类研究还需要明确数据生产的实际边界。官方仓库说明,一份对应可以在相同源模板与目标机器人之间复用;SOMA 的个体体型若改变了模板,对应缓存就应当按相应配对管理。读取批处理结果时,成功文件数只回答生成流程是否完成,不能替代对残差、关节变化与接触质量的检查。大规模数据的价值取决于有效参考的比例,以及错误是否集中在最重要的动作区域。
公开发布的支持范围也需要落实到输入格式。官方 README 明确说明,OmniContact 对外提供的源动作是 BVH,而当前相关 UMR 路径使用 SMPL-X;内部 BVH 到 SMPL-X 转换器并未随仓库发布。因此,“论文使用过这个数据集”与“下载公开数据后能够直接跑通全部流程”并不完全相同。SMPL-X 模型文件也需要另行准备。这些是复现条件,会直接影响实验能否被独立重复。官方数据准备说明
身体、工具与任务意图
将 UMR 放回我关心的全身控制与击球问题,它最有启发性的地方,是表面接口可以让身体和工具的几何关系进入同一表示。机器人挥拍时,手腕位置只是中间量;真正与球发生作用的是球拍表面。若人体动作记录了身体与球拍的共同运动,那么身体姿态、握持关系与工具运动就有机会在同一套对应中被处理。
官方仓库在 2026 年 9 月 10 日加入的 AdaPT 示例,已经展示了这个方向:源侧把 SMPL-X 身体与跟踪到的球拍作为组合表面,目标侧把 G1 与刚性安装的球拍作为组合表面。这个示例晚于本文讨论的论文 v2,应当视为公开代码中的扩展证据,不能倒推成 v2 已经完成了所有击球任务验证。AdaPT 身体与球拍示例
但击球也清楚地暴露了几何接口的边界。一段挥拍轨迹可以在每一帧都接近人体示范,却在关键时刻晚到几十毫秒;拍面位置相同,也可能因为法向与相对速度不同而产生完全不同的出球。对于这类事件驱动任务,我更倾向于将目标概括为
其中分别包含击球时刻、接触位置、拍面法向和拍球相对速度。这个任务描述是本文的分析性扩展,并非 UMR 的原始输出,也尚不足以覆盖旋转、摩擦和完整碰撞动力学。它想表达的是:在发生碰撞的任务里,仅匹配逐帧表面位置和朝向,还缺少决定碰撞结果的时间与速度信息。
因此,UMR 可以为挥拍、身体协调和工具几何提供更丰富的参考;击球时序、来球状态与期望出球则需要进入任务规划和控制。离线人体动作包含某一次情境中的合理运动,而在线机器人必须对当前来球作出反应。两者之间需要能够调整的接口,不能把整段示范当作不可变的命令。
这也让我更重视动作重定向中的一个基础问题:一个动作的身份究竟由什么维持?对于舞蹈,姿态、节奏和身体风格可能非常重要;对于搬运,持续接触与物体稳定性更关键;对于击球,短暂碰撞事件及其结果可能决定任务成败。任务不同,值得保持的信息也不同,统一的几何表示并不意味着存在对所有任务都最合适的一组固定权重。
UMR 的贡献,是让跨身体动作迁移有了更细致、可复用且能够连接接触关系的表面表达。它把原先依赖稀疏语义配对的一部分工作,转化为可以学习与优化的几何对应。沿着这个基础继续推进,我更期待看到对应质量、参考可执行性与任务结果之间形成明确的反馈:当机器人无法复现某片表面的运动时,系统应当知道哪些偏差可以接受,哪些偏差会破坏动作意图。
真正有价值的迁移,最终需要回答的是:换了一副身体之后,这个动作为什么仍然能够完成它原本要完成的事情。UMR 为这个问题提供了一个具体而有用的几何入口,而任务约束、动力学与闭环反馈,将决定这个入口能够通向多远。
参考文献与实现版本
本文的主要依据是 Hanyang Cao、Yuetong Fang、Taesoo Kwon 等人的 Unified Motion Retargeting for Humanoids with Learned Point Cloud Correspondence,arXiv:2609.02134v2,2026 年 9 月 7 日。文中的论文实验结果对应其表 I—IV 与图 3、5—8;两幅转载图分别为原文图 2 与图 8,版权归原作者,按 CC BY 4.0 许可使用。
实现分析依据 hanyang9/UMR,固定提交为 d6bb76123d19afb7c2c1c84162d1af1f142a61ed,日期为 2026 年 9 月 10 日。正文中的具体实现链接均固定到该提交;代码细节与论文概括式存在差异时,分别说明,未将当前默认配置当成论文所有实验的完整配置。
方法背景参考 João Pedro Araujo、Yanjie Ze、Pei Xu、Jiajun Wu、C. Karen Liu 的 Retargeting Matters: General Motion Retargeting for Humanoid Motion Tracking,2025 年 10 月 2 日。交互基线为 Lujie Yang 等人的 OmniRetarget: Interaction-Preserving Data Generation for Humanoid Whole-Body Loco-Manipulation and Scene Interaction;本文引用的基线比较数字均取自 UMR v2,未与其他版本或评估协议混合。
延伸阅读包括 Xue Bin Peng 的 Towards a Virtual Stuntman,BAIR Blog,2018 年 4 月 10 日,以及 Abhishek Gupta 等人的 The Ingredients of Real World Robotic Reinforcement Learning,BAIR Blog,2020 年 4 月 27 日。两篇分别帮助理解动作参考与控制学习的关系,以及真实机器人能力成立所依赖的系统条件。




