山东省工程建设信息官方网站网络营销推广平台

π0 论文

${\pi }_0$ 是基于预训练的 VLM 模型增加了 action expert ，并结合了 flow matching 方法训练的自回归模型，能够直接输出模型的 action chunk（50）。

• π0 采用 Flow Matching 技术来建模连续动作的分布，这一创新使模型能够精确控制高频率的灵巧操作任务，同时具备处理多模态数据的能力。
• 架构受到 Transfusion 的启发 ：通过单一 Transformer 处理多目标任务，其中连续输出由流匹配损失监督，离散输出则由交叉熵损失监督。π0 在此基础上进行了针对性优化，特别为机器人领域的动作和状态 tokens 设计了一组独立的动作专家（Transformer）模块。
• 在推理阶段，π0 采用了高效的执行策略：新增的动作专家模块需要进行 10 次 flow matching 去噪迭代，而基础视觉语言模型（PaliGemma）仅需执行一次前向传播即可生成输出。
  输入：
• PaliGemma 接受的图像 $[I_t^1，\dots \dots ，I_t^n]$ 和语言指令 $l_t$。
• 输入噪声 $A_t=[a_t,a_{t+1},\dots \dots ,a_{t+H-1}]$ 未来动作的 action chunk（50）。
• 自身状态 $q_t$ ，通过线性层映射到 embedding 维度。

训练：

• 加噪：对于每一个 action chunk 中的每一个动作 $a_t$，引入噪声 $ϵ$ ，生成噪声 action，$A_t^{\tau }=\tau A_t+(1-\tau )ϵ$ （flow matching 的条件概率分布） 。
• 向量场预测：将噪声动作 $A_t^{\tau }$ 和观测值 $o_t$ 输入动作专家，预测一个向量场 ${\nu }_{\theta }(A_t^{\tau },o_t)$
• 优化：flow matching 损失函数训练模型 。$L^{\tau }(\theta )={\mathbb{E}}_{p({\mathbf{A}}_t|{\mathbf{o}}_t),q({\mathbf{A}}_t^{\tau }|{\mathbf{A}}_t)}||{\mathbf{v}}_{\theta }({\mathbf{A}}_t^{\tau },{\mathbf{o}}_t)-\mathbf{u}({\mathbf{A}}_t^{\tau }|{\mathbf{A}}_t)|{|}^2$。

输出：使用与 H 个噪声动作相对应的Transformer输出，使用线性投影将其解码为 ${\nu }_{\theta }(A_t^{\tau },o_t)$ 。

推理时，真实动作序列通过 Euler 步进法进行恢复：$A_t^{\tau +\delta }=A_t^{\tau }+\delta {\nu }_{\theta }(A_t^{\tau },o_t)$，其中 $\delta =0.1$，推理频率为 50 Hz。

• 注意力掩码： 采用三块注意力掩码，图像和语言提示作为第一块，$q_t$作为第二块，噪声化动作 $A_t^{\tau }$作为第三块。图像和语言块内部互相可见，但不能看到机器人相关变量（ $q_t$ 和 $A_t^{\tau }$），可以看到自身以及图像和语言块，但不能看到 $A_t^{\tau }$，$A_t^{\tau }$可以看到所有块，但靠前的 token 看不到靠后的 token。
• 时间步采样： 流匹配的时间步 $\tau$从 beta 分布中采样，倾向于采较低的时间步（更高的噪声级别），这帮助模型更好地学习动作分布。

数据集

预训练混合数据由 OXE 数据集和 π 数据集的部分子集构成。

性能表现

灵巧操作任务对机器人的适应能力提出了极高要求，特别是当这些任务与预训练数据有差异时，模型是否能够通过微调快速学习新行为成为关键。

实验结果表明，微调后的 ${\pi }_0$ 在所有任务中均表现优于其他方法，包括 OpenVLA、Octo、ACT和 Diffusion Policy。特别是在纸巾更换和抽屉整理等困难任务中，${\pi }_0$ 通过其预训练的通用能力和灵活的微调策略展现了显著优势。而在“简单”任务如叠毛巾中，${\pi }_0$ 的性能更是大幅超越未经过预训练的模型，显示了预训练数据的重要作用。

复杂任务表现