Diffusion Policy:动作序列如何逐步去噪?
从接近纯噪声的 12 步二维动作序列开始,在当前位置和目标的条件下逐步去噪。完成一轮后只执行前 3 个动作,再用新位置重新规划。这里的去噪器是可精确计算的双高斯解析模型,不是假装训练过的机器人策略。
图表可左右滑动;键盘聚焦图表后可使用左右方向键滚动。
青色实线:当前干净动作估计的累计路径;绿色:已执行路径;黄色:条件目标;下图紫色:当前带噪动作 x 分量,青色:干净估计。
从噪声到动作块
1. 条件 c =(当前位置、目标)。定义两条朝目标弯曲的均值动作序列 μ₊、μ₋,令 p(a₀|c) = ½N(μ₊,σ²I) + ½N(μ₋,σ²I),σ = 0.008。弯曲幅度随剩余距离缩小(乘以 min(1, 距目标距离))。模型没有从数据拟合。
2. 前向过程 aₜ = √ᾱₜ a₀ + √(1−ᾱₜ)ε。通过贝叶斯公式精确计算两个模式的后验权重及 E[a₀|aₜ,c],得到 ε̂ = (aₜ−√ᾱₜ E[a₀|aₜ,c]) / √(1−ᾱₜ)。
3. 用确定性 DDIM 更新到下一噪声层:aₜ₋₁ = √ᾱₜ₋₁ â₀ + √(1−ᾱₜ₋₁)ε̂。ᾱ 从 1 下降到 0.0001;初始样本来自这个解析模型的精确前向边缘分布,近似而非严格纯高斯。
4. 完成去噪后,下一个单步才执行前三个二维位移动作,然后重新采样。到目标距离 < 0.10 或达到 12 轮时停止。图的动作纵轴自动缩放,数值幅度见下方。
与论文的对应和边界
本页保留条件动作序列生成、多步去噪和滚动执行三个核心概念。论文使用示范训练的条件噪声预测网络,并处理视觉观测与机器人动作;本页只有人工指定的双峰高斯动作分布、解析贝叶斯去噪器与 DDIM 采样,没有神经网络训练、图像编码、接触动力学、障碍物避碰或真实机器人性能结论。