← 四个阅读系列

术语与符号速查

先弄清它做什么,再看公式怎样写。中英文、缩写和用途都可以搜索;同一个符号在不同系列、甚至同篇文章里,可能有不同含义。正文的局部定义优先。

马尔可夫决策过程

Markov Decision Process

也写作:Markov Decision Process · 马尔可夫决策过程

用状态、动作、转移、奖励及折扣描述序列决策;给定当前状态和动作,下一步的分布不再依赖更早历史。

做什么、为什么需要:先核对论文如何定义任务,以及观测是否真能当作状态。

例子:棋盘局面可近似完整状态;单张机器人照片可能漏掉速度。

相关概念(不一定是同义词):观测 · 策略 · 奖励

时序差分

Temporal Difference

也写作:Temporal Difference · 时序差分

用即时奖励加下一步的价值预测形成目标,再与当前预测比较;可以不用等到整局结束。

做什么、为什么需要:通过相邻时刻预测的差来逐步学习价值。

例子:δ=r+γV(s′)−V(s);真实终止后通常不再加入下一状态价值。

相关概念(不一定是同义词):自举 · 贝尔曼方程 · 状态价值函数

Q 学习

Q-learning

也写作:Q 学习

用下一状态最大动作价值构造 TD 目标,学习最优动作价值的经典离策略方法。

做什么、为什么需要:理解行为仍在探索,但更新目标可以是贪心行为。

例子:采集时偶尔随机走,更新却使用 r+γ max Q(s′,a′)。

相关概念(不一定是同义词):动作价值函数 · 离策略 · SARSA

策略梯度

Policy gradient

也写作:policy gradient · Policy gradient

对策略参数求期望回报的梯度并据此改进策略的一类方法。REINFORCE 是其中一种估计方式,不是整个类别的别名。

做什么、为什么需要:直接改进行为概率或动作函数,而不必先对全部动作求最优 Q。

例子:提高高优势动作的对数概率;连续确定性策略也有相应策略梯度。

相关概念(不一定是同义词):REINFORCE 蒙特卡洛策略梯度 · 行动者–评价者 · 确定性策略

行动者–评价者

Actor–Critic

也写作:Actor-Critic · Actor Critic · 行动者-评价者 · 行动者–评价者

同时学习动作选择规则与价值评价,通过评价信号改进策略的一类方法;Actor 与 Critic 是功能分工,不一定是两个神经网络。

做什么、为什么需要:把“如何行动”和“行动后预计多好”拆开理解。

例子:Actor 提高正优势动作的概率,Critic 同时改进对长期回报的预测。

相关概念(不一定是同义词):行动者 · 评价者 · 策略梯度

近端策略优化

Proximal Policy Optimization

也写作:Proximal Policy Optimization · 近端策略优化

通过限制策略更新的替代目标来改进策略的方法家族;常见 PPO-Clip 裁剪新旧动作概率比的目标项。

做什么、为什么需要:减少单批数据上过大的策略更新,但裁剪不等于严格保证 KL 上限。

例子:旧策略采集一批轨迹,新策略在有限轮次中用裁剪目标更新。

相关概念(不一定是同义词):在策略 · 重要性采样 · 优势函数

直接偏好优化

Direct Preference Optimization

也写作:Direct Preference Optimization · 直接偏好优化

从偏好对直接优化策略相对参考模型的概率比;常见实现不必单独训练奖励模型再运行在线 RL。

做什么、为什么需要:读偏好训练时,区分固定偏好数据与在线采样奖励优化。

例子:给定较好与较差回答,提高前者相对后者的模型概率优势。

相关概念(不一定是同义词):人类反馈强化学习 · 监督微调 · 离线强化学习

组相对策略优化

Group Relative Policy Optimization

也写作:Group Relative Policy Optimization · 组相对策略优化

对同一输入采样一组输出,以组内奖励比较构造优势的策略优化方法;原始形式省去独立价值模型。

做什么、为什么需要:读推理模型 RL 时,分清组内相对分数与传统价值基线。

例子:同一题采样多个答案,再根据各答案相对组平均奖励的好坏更新。

相关概念(不一定是同义词):近端策略优化 · 优势函数 · 轨迹展开

离策略

Off-policy

也写作:离策略

学习目标策略时,允许数据来自不同的行为策略。它不等于离线,也不意味着完全不能采集新数据。

做什么、为什么需要:判断历史经验能否重用,以及分布差异如何处理。

例子:DQN 一边与环境交互,一边从旧经验池学习,是在线、离策略方法。

相关概念(不一定是同义词):在策略 · 离线强化学习 · 在线强化学习

离线强化学习

Offline RL

也写作:Offline RL

在给定数据集上学习策略,训练阶段不能通过继续环境交互补充数据;部署评估或之后在线微调是另一阶段。

做什么、为什么需要:关注数据覆盖不足、分布外动作与价值高估。

例子:只有旧机器人操作日志,训练期间不能再让机器人试新动作。

相关概念(不一定是同义词):在线强化学习 · 离策略 · 行为克隆

世界模型

World model

也写作:world model · World model

学习环境状态、观测、奖励或其潜在表示如何随动作变化的预测模型;可用于规划、想象训练或评估。

做什么、为什么需要:先看模型预测什么,再看算法怎样使用它。

例子:预测推杯子后杯子的位置;预测正确也不自动保证规划出的动作安全。

相关概念(不一定是同义词):基于模型的强化学习 · Dreamer 潜在想象学习

注意力

Attention

也写作:attention · Attention

根据当前位置的需求,对一组信息计算权重并加权读取的机制;加性注意力与点积注意力是不同实现。

做什么、为什么需要:解决固定摘要的瓶颈;注意力不自动等于自注意力。

例子:翻译当前目标词时,动态读取不同源词位置的表示。

相关概念(不一定是同义词):自注意力 · Transformer 架构

Transformer 架构

Transformer

也写作:Transformer 架构

以注意力、前馈变换、残差连接和归一化等模块组成的模型架构家族;原论文含编码器与解码器。

做什么、为什么需要:先区分架构与语言建模目标,再区分训练并行与自回归生成。

例子:训练可同时计算已知序列各位置的损失;逐 token 生成仍依赖此前输出。

相关概念(不一定是同义词):注意力 · 自回归语言模型

预训练

Pre-training

也写作:pre-training · pretraining · Pre-training

在下游适配之前,通过较大范围数据与目标学习可复用能力或表示的阶段。

做什么、为什么需要:区分先学习基础能力和之后面向特定任务的适配。

例子:先在通用文本上训练语言模型,再用问答示范微调。

相关概念(不一定是同义词):微调 · 监督微调

低秩适配

Low-Rank Adaptation

也写作:低秩适配 · Low-Rank Adaptation

冻结基础权重,以两个较小矩阵的乘积表示并训练权重增量的参数高效适配方法。

做什么、为什么需要:降低需要训练的参数量与优化器状态开销。

例子:W 保持不变,训练 ΔW=BA;推理时可按实现将增量合并。

相关概念(不一定是同义词):微调 · 量化

检索增强生成

Retrieval-Augmented Generation

也写作:检索增强生成 · Retrieval-Augmented Generation

把外部检索结果作为生成的条件或证据来源,使模型可利用参数之外的信息。

做什么、为什么需要:区分检索、证据选择与答案生成各自的错误。

例子:先查公司手册,再依据相关段落回答报销政策;仍需核对引用是否支持结论。

相关概念(不一定是同义词):上下文窗口 · 幻觉

人类反馈强化学习

Reinforcement Learning from Human Feedback

也写作:人类反馈强化学习 · Reinforcement Learning from Human Feedback

把人类反馈转成训练信号来改进模型行为;常见流程先学习偏好奖励,再用强化学习优化策略。AI 反馈通常另称 RLAIF。

做什么、为什么需要:区分反馈来源、奖励模型与策略优化三个环节。

例子:人类比较两个回答,奖励模型学排序,再用 PPO 改进回答策略。

相关概念(不一定是同义词):监督微调 · 近端策略优化 · 直接偏好优化

混合专家

Mixture of Experts

也写作:混合专家 · Mixture of Experts

由多个专家子模型与路由机制组成;稀疏 MoE 对每个 token 只激活部分专家。

做什么、为什么需要:区分总参数、每 token 激活参数与实际推理开销。

例子:路由器把一个 token 送给两个专家,但通信和负载平衡仍有成本。

相关概念(不一定是同义词):Transformer 架构 · 词元

测试时计算

Test-time computation

也写作:test-time compute · inference-time compute · Test-time computation

在推理阶段用于生成、采样、搜索或验证的计算量与机制;增加它是否改善结果需要实测。

做什么、为什么需要:把训练预算与回答问题当下的推理预算分开。

例子:同一个已训练模型,为一道题采样 16 个候选再验证。

相关概念(不一定是同义词):测试时计算扩展 · 蒙特卡洛树搜索 · 思维链

动态运动基元

Dynamic Movement Primitives

也写作:动态运动基元 · Dynamic Movement Primitives

用结构化动力系统表示可调节的运动形状;离散运动与周期运动有不同形式,稳定性依赖具体条件。

做什么、为什么需要:复用示范并调整目标或时间尺度;它是运动表示,不必用 RL 训练。

例子:把一次挥拍写成期望轨迹生成器,改终点后仍需底层控制器准确跟踪。

相关概念(不一定是同义词):示范 · 轨迹 · 反馈控制

数据集聚合

Dataset Aggregation

也写作:Dataset Aggregation · 数据集聚合

让学习者访问状态,再请专家标注这些状态的动作,逐轮聚合数据并训练策略的方法。

做什么、为什么需要:缓解只在专家访问状态训练造成的误差累积。

例子:机器人自己把杯子推歪后,专家示范如何纠正,纠正数据加入下一轮训练。

相关概念(不一定是同义词):行为克隆 · 协变量偏移 · 模仿学习

视觉语言动作模型

Vision-Language-Action model

也写作:视觉语言动作 · Vision-Language-Action · Vision-Language-Action model · 视觉语言动作模型

以视觉与语言等信息为条件生成机器人动作的模型类别;动作表示和底层执行接口依模型而异。

做什么、为什么需要:区分语言理解、动作生成与真机控制能力。

例子:看到桌面并收到“把杯子放进盘子”,模型输出机器人动作。

相关概念(不一定是同义词):动作 · 具身形态 · Transformer 架构

模仿学习

Imitation learning

也写作:Imitation learning

利用专家示范学习行为的一类方法,包括直接行为克隆、交互式模仿及部分逆强化学习流程。

做什么、为什么需要:先看示范怎样转成训练信号,不能把整个类别等同于行为克隆。

例子:可直接拟合专家动作,也可从示范推断奖励后再优化策略。

相关概念(不一定是同义词):行为克隆 · 数据集聚合 · 逆强化学习

仿真到真机迁移

Sim-to-real transfer

也写作:sim2real · sim-to-real · Sim-to-real transfer · 仿真到真机迁移

将仿真中获得的策略、模型或方法迁移到真实系统的任务与过程;域随机化只是其中一种手段。

做什么、为什么需要:先找仿真与真实的差异,再看所用迁移方法能覆盖哪些差异。

例子:仿真学会抓取后,上真机要处理摩擦、相机和执行延迟的差异。

相关概念(不一定是同义词):域随机化 · 动力学

A* 搜索

A-star search

也写作:A-star · A-star search · A* 搜索

按已走代价与到目标的启发式估计之和选择扩展节点的搜索算法;最优性依赖启发式与具体搜索实现的条件。

做什么、为什么需要:将启发式引导与最短路径保证的条件一起阅读。

例子:四邻接、单位代价栅格用曼哈顿距离作启发式;带障碍时仍逐步扩展可行路径。

相关概念(不一定是同义词):运动规划 · 快速探索随机树

快速探索随机树

Rapidly-exploring Random Tree

也写作:Rapidly-exploring Random Tree · 快速探索随机树

通过随机采样并朝样本扩展树来探索连续空间的路径规划方法;基本 RRT 不保证渐近最优。

做什么、为什么需要:区分快速找到可行解与持续改进到最优解。

例子:机械臂在高维关节空间随机扩展无碰节点;RRT* 才引入面向渐近最优的重连。

相关概念(不一定是同义词):构型空间 · 运动规划

卡尔曼滤波

Kalman filter

也写作:卡尔曼滤波 · Kalman filtering · Kalman filter

在线性模型和适当已知二阶噪声统计下递推最优线性估计;联合高斯条件使其还对应完整的高斯后验更新。

做什么、为什么需要:理解预测与测量如何根据不确定性融合;不要把最优性说成无条件保证。

例子:用运动模型预测位置,再按协方差权衡 GPS 测量的修正幅度。

相关概念(不一定是同义词):状态估计 · 可观测性

同时定位与地图构建

Simultaneous Localization and Mapping

也写作:同时定位与地图构建 · Simultaneous Localization and Mapping

在未知环境中联合估计自身位姿和地图;两者的不确定性相互关联。

做什么、为什么需要:区分定位、建图、回环检测与后端优化的职责。

例子:机器人绕一圈回到原处,用回环约束修正整段轨迹与地图。

相关概念(不一定是同义词):状态估计 · 回环闭合 · 因子图

逆运动学

Inverse kinematics

也写作:IK · inverse kinematics · Inverse kinematics

由目标末端位姿反求满足几何约束的关节构型;可能多解、无解或接近奇异。

做什么、为什么需要:区分几何可达性与动力学可执行性。

例子:同一夹爪位姿可能对应肘上、肘下两种关节构型。

相关概念(不一定是同义词):正运动学 · 雅可比矩阵 · 构型空间

占据栅格

Occupancy grid

也写作:occupancy grid · Occupancy grid

把空间划为格子并估计每格被障碍占据的概率或状态;未知不等于空闲。

做什么、为什么需要:把传感器观测转换为可供避障规划使用的空间表示。

例子:激光射线经过的格子倾向空闲,命中的端点倾向被占据。

相关概念(不一定是同义词):同时定位与地图构建 · 运动规划

策略

Policy

也写作:Policy

从状态、观测或历史到动作选择规则的映射;可以输出一个动作,也可以输出动作分布。

做什么、为什么需要:回答智能体下一步怎么做,不等于评价这一步有多好。

例子:同样看到前方障碍,策略决定左转还是减速。

相关概念(不一定是同义词):随机策略 · 确定性策略 · 行动者

随机策略

Stochastic policy

也写作:Stochastic policy

给定输入后输出动作的条件概率分布,再按该分布采样。随机指策略的动作选择,不是环境一定随机。

做什么、为什么需要:表达多个可选行为,也可提供探索和对数概率梯度。

例子:π(左转|s)=0.7,π(右转|s)=0.3;重复同一状态仍可能选不同动作。

相关概念(不一定是同义词):确定性策略 · 策略梯度 · 熵

确定性策略

Deterministic policy

也写作:Deterministic policy

给定同一输入及固定参数,直接输出同一个动作。训练采集时可以另外加探索噪声。

做什么、为什么需要:把连续动作看作可微函数,区分策略本身与采集噪声。

例子:机械臂 Actor 输出 0.2 的控制量;采集时再加噪声,并不会把其网络改成概率分布。

相关概念(不一定是同义词):随机策略 · 行动者 · 探索

状态价值函数

State-value function

也写作:state value · V-value · State-value function · 状态价值函数

Vπ(s) 是从状态 s 出发,之后按策略 π 行动所得到的期望回报;已经对接下来的动作取平均。

做什么、为什么需要:评估局面,常用作策略梯度的基线。

例子:“站在路口,按当前导航策略走下去,平均还能得多少分?”

相关概念(不一定是同义词):动作价值函数 · 回报 · 评价者

动作价值函数

Action-value function

也写作:action value · Q-function · Q 值 · Q值 · Action-value function · 动作价值函数

Qπ(s,a) 是先在 s 执行动作 a,再按 π 行动的期望回报。Q* 才指最优后续行为对应的动作价值。

做什么、为什么需要:比较同一状态下不同动作的长期后果。

例子:Q(s,左转) 与 Q(s,右转) 比较的是先做哪一步更好。

相关概念(不一定是同义词):状态价值函数 · 优势函数 · Q 学习

优势函数

Advantage function

也写作:advantage · Advantage function

Aπ(s,a)=Qπ(s,a)−Vπ(s),表示某动作相对当前策略在该状态下平均水平的好坏。

做什么、为什么需要:让策略更新关注比预期更好或更差的动作。

例子:该局面平均回报为 5,某动作预计为 7,则优势为 2。

相关概念(不一定是同义词):状态价值函数 · 动作价值函数 · 策略梯度

行动者

Actor

也写作:行动者

负责动作选择的策略部分;可能是概率规则、表格或网络。它描述功能角色,不规定一定采用深度网络。

做什么、为什么需要:读 Actor–Critic 时先找哪一部分实际决定动作。

例子:早期 Actor–Critic 的动作选择单元与今天输出高斯分布的神经网络,都是 Actor 的不同实现。

相关概念(不一定是同义词):评价者 · 行动者–评价者 · 策略

评价者

Critic

也写作:评价者

估计状态价值或动作价值,并为策略改进提供评价信号的部分;不是环境奖励本身。

做什么、为什么需要:区分即时奖励、价值预测和由两者构造的 TD 误差。

例子:Critic 认为该局面可得 5 分,实际反馈使它修正预测,并影响 Actor。

相关概念(不一定是同义词):行动者 · 状态价值函数 · 动作价值函数 · 时序差分

奖励

Reward

也写作:Reward

环境或任务定义给出的单步反馈信号;它与累计回报、价值预测以及训练损失是不同量。

做什么、为什么需要:识别算法究竟在优化什么反馈,以及是否存在奖励设计漏洞。

例子:每前进一步奖励 −1,到达目标奖励 +10;这一局的回报由整段奖励组成。

相关概念(不一定是同义词):回报 · 状态价值函数

回报

Return

也写作:累计回报 · Return

一段未来奖励按目标约定累计得到的量;可为有限时域总和,也可含折扣。

做什么、为什么需要:区分一时的奖励与长期目标。

例子:后续奖励为 1、2,折扣为 0.9,则当前两步回报为 1+0.9×2。

相关概念(不一定是同义词):奖励 · 折扣因子 · 状态价值函数

折扣因子

Discount factor

也写作:discount factor · Discount factor

通常记作 γ,决定未来奖励相对当前奖励的权重;γ 的选择也是任务目标的一部分。

做什么、为什么需要:比较论文目标时,核对折扣、终止和截断的约定。

例子:γ=0 只看即时奖励;γ 接近 1 时会更重视远期奖励。

相关概念(不一定是同义词):回报 · 回合

自举

Bootstrapping

也写作:bootstrapping · Bootstrapping

用另一个已有估计来构造当前学习目标;RL 中常见于用下一状态价值更新当前价值。

做什么、为什么需要:理解 TD 的数据效率,以及错误估计为何可能继续传播。

例子:目标 r+γV(s′) 含模型当前的 V 估计;完整蒙特卡洛回报不需要这项自举。

相关概念(不一定是同义词):时序差分 · 回报 · 目标网络

贝尔曼方程

Bellman equation

也写作:贝尔曼方程 · Bellman equation

把一个状态或动作的价值拆成即时奖励与下一步价值的递归关系;策略评估与最优性方程的动作处理不同。

做什么、为什么需要:看懂 TD、Q-learning 等算法更新目标从何而来。

例子:评估固定策略时对其下一动作求期望;最优性方程则对下一动作取最大值。

相关概念(不一定是同义词):时序差分 · Q 学习 · 状态价值函数

SARSA

State–Action–Reward–State–Action

也写作:State–Action–Reward–State–Action

用实际选择的下一动作价值构造更新目标的经典在策略 TD 控制方法。

做什么、为什么需要:与 Q-learning 对照,分清下一动作是实际采样还是取最大值。

例子:走悬崖时,SARSA 的目标会反映探索动作可能失足的后果。

相关概念(不一定是同义词):Q 学习 · 在策略 · 时序差分

REINFORCE 蒙特卡洛策略梯度

REINFORCE

也写作:REINFORCE 蒙特卡洛策略梯度

以采样回报(可减动作无关基线)乘对数策略概率的梯度,估计策略梯度的算法家族。

做什么、为什么需要:在环境不可微时,用采样反馈训练随机策略。

例子:回合结束后,以 Gt−b(st) 加权每一步 log π(at|st) 的梯度。

相关概念(不一定是同义词):策略梯度 · 随机策略 · 回报

在策略

On-policy

也写作:在策略 · 同策略

学习或评估的策略与产生相关经验的行为策略一致,或在算法允许的近似范围内一致。

做什么、为什么需要:它回答“谁产生数据”,并不回答“是否使用环境模型”。

例子:SARSA 用当前探索策略实际选出的下一动作更新;PPO 也需要按批次刷新数据。

相关概念(不一定是同义词):离策略 · 在线强化学习 · 无模型强化学习

在线强化学习

Online RL

也写作:Online RL

训练期间持续与环境交互、收集新经验并改进策略。在线描述数据获取方式,不等于在策略。

做什么、为什么需要:和离线学习区分,同时单独检查 on/off-policy 轴。

例子:机器人边试边学,并把新旧经验混在回放池里训练。

相关概念(不一定是同义词):离线强化学习 · 在策略 · 离策略

基于模型的强化学习

Model-based RL

也写作:model-based · 模型式强化学习 · Model-based RL · 基于模型的强化学习

在决策或策略改进中使用环境转移、奖励等预测模型;模型可由经验学习,也可由已知规则给出。

做什么、为什么需要:识别是否通过预测后果来规划或生成想象经验。

例子:Dyna 用学到的转移模型产生额外训练经验;棋类搜索可使用已知规则。

相关概念(不一定是同义词):无模型强化学习 · 世界模型 · 蒙特卡洛树搜索

无模型强化学习

Model-free RL

也写作:model-free · Model-free RL · 无模型强化学习

策略或价值学习不依靠显式环境预测模型来规划或产生模型经验;仍可使用神经网络表示策略和价值。

做什么、为什么需要:避免把“无模型”误读成“没有神经网络”或“只允许在线学习”。

例子:DQN 学 Q 网络但不学状态转移预测器,所以通常归为无模型。

相关概念(不一定是同义词):基于模型的强化学习 · 行动者–评价者 · 离线强化学习

Dreamer 潜在想象学习

Dreamer

也写作:Dreamer 潜在想象学习

在学到的潜在动力学中展开想象轨迹,并训练行为策略及价值估计的一系列具体算法。

做什么、为什么需要:把一个世界模型算法家族与“世界模型”这一广义概念分开。

例子:用真实经验更新潜在模型,再在潜在空间训练 Actor 与 Critic。

相关概念(不一定是同义词):世界模型 · 基于模型的强化学习 · 行动者–评价者

蒙特卡洛树搜索

Monte Carlo Tree Search

也写作:Monte Carlo Tree Search · 蒙特卡洛树搜索

反复选择、扩展、评估节点并回传结果的树搜索方法。叶子可用模拟 rollout 或价值网络评估。

做什么、为什么需要:理解搜索怎样在有限计算预算内聚焦有希望的分支。

例子:AlphaGo 在棋类规则中搜索候选落子;MCTS 本身不等于策略梯度。

相关概念(不一定是同义词):轨迹展开 · 基于模型的强化学习 · 动作价值函数

轨迹

Trajectory

也写作:trajectory · Trajectory

按时间排列的一段状态、动作及反馈序列;机器人文献也可能仅指随时间变化的位置或构型曲线。

做什么、为什么需要:先核对记录中包含哪些量,以及是否含真实执行反馈。

例子:RL 中 τ 可写成 s0,a0,r0,s1,…;运动规划中的轨迹还需要时间信息。

相关概念(不一定是同义词):轨迹展开 · 回合 · 运动规划

轨迹展开

Rollout

也写作:rollout · 轨迹展开

按策略或给定动作序列逐步推进环境或模型,得到一段轨迹;可以是短片段,不一定直到终止。

做什么、为什么需要:区别真实采集、模型想象与树搜索中的模拟。

例子:从当前状态在模型中向前模拟 5 步,是一次模型 rollout,不一定是一整局。

相关概念(不一定是同义词):轨迹 · 回合 · 基于模型的强化学习

回合

Episode

也写作:episode · 回合

从初始条件开始,直到任务规定终止条件的一段交互;采集系统的时间截断不一定等于真实终止。

做什么、为什么需要:决定回报边界与是否保留下一状态自举值。

例子:机器人到达目标算终止;训练器每 200 步切片可能只是截断。

相关概念(不一定是同义词):轨迹展开 · 回报 · 自举

重要性采样

Importance sampling

也写作:importance sampling · Importance sampling

用目标分布与采样分布的概率比重加权样本,估计目标分布下的期望;要求必要的分布支持覆盖。

做什么、为什么需要:理解离策略修正,也注意大权重会放大方差。

例子:目标策略给某动作概率 0.4,行为策略为 0.2,则单步比率为 2。

相关概念(不一定是同义词):离策略 · 近端策略优化 · 随机策略

经验回放

Experience replay

也写作:replay buffer · 经验池 · Experience replay

把交互样本存入缓冲区并重复抽取训练,改善样本重用和时间相关性。

做什么、为什么需要:区分当前采集策略与回放样本中的历史策略。

例子:DQN 每走一步存转移,再从缓冲区随机抽一批旧转移。

相关概念(不一定是同义词):离策略 · 在线强化学习 · 目标网络

目标网络

Target network

也写作:Target network

使用更新较慢的参数副本来计算训练目标,缓解目标与预测同时快速变化的问题。

做什么、为什么需要:读 DQN、DDPG、TD3 时区分在线网络与目标网络的职责。

例子:Q 网络每步更新,目标 Q 网络定期复制或缓慢插值更新。

相关概念(不一定是同义词):自举 · 经验回放 · 动作价值函数

探索

Exploration

也写作:exploration · Exploration

为获得信息或发现更高回报行为而尝试不确定的动作;随机性是手段之一,不是探索的完整定义。

做什么、为什么需要:区分获取新信息与利用已有最佳判断。

例子:尚不知道右侧走廊是否更短,智能体愿意花一次试走的代价。

相关概念(不一定是同义词):随机策略 · 熵 · 在线强化学习

熵

Entropy

也写作:策略熵 · Entropy

衡量概率分布不确定性的量;在策略优化中常被用作鼓励动作分布保持多样性的正则项。

做什么、为什么需要:区分高熵、有效探索与任务表现,它们不必同步变好。

例子:两个动作各 0.5 的分布,比 0.99/0.01 更不确定。

相关概念(不一定是同义词):随机策略 · 探索

词元

Token

也写作:token · 词元

分词器处理的基本离散单位,可能是字、子词、字节片段或专用符号;不固定等于一个字或一个单词。

做什么、为什么需要:理解词表、序列长度、损失与推理成本的计量单位。

例子:一个英文单词可能被切成多个 token;中文字符也不保证一字一 token。

相关概念(不一定是同义词):嵌入表示 · 上下文窗口

嵌入表示

Embedding

也写作:embedding · 词嵌入 · 嵌入 · 嵌入表示

把离散对象或输入特征映射到向量表示;词嵌入通常可学习,不能把每个坐标直接当成人可读属性。

做什么、为什么需要:理解模型怎样把 token 或感知信息送入连续计算。

例子:词表中的 token ID 先查表得到向量,再进入 Transformer。

相关概念(不一定是同义词):词元 · Transformer 架构

自注意力

Self-attention

也写作:self-attention · self attention · Self-attention

查询、键和值来自同一序列表示的注意力;允许不同位置按内容交换信息。

做什么、为什么需要:和从另一个序列读取信息的交叉注意力区分。

例子:处理一句话时,“它”的表示可读取同句较早出现的名词。

相关概念(不一定是同义词):注意力 · Transformer 架构

自回归语言模型

Causal language model

也写作:causal language model · autoregressive language model · Causal language model

按序列前缀预测下一个 token,以条件概率乘积表示整段文本概率。

做什么、为什么需要:理解因果掩码、训练目标与逐步生成之间的关系。

例子:已知“今天的天气”,模型预测后面可能出现的 token。

相关概念(不一定是同义词):词元 · 交叉熵 · 掩码语言模型

掩码语言模型

Masked language model

也写作:MLM · Masked language model

根据被遮蔽位置周围的可见上下文恢复 token 的训练目标;典型 BERT 可同时利用左右信息。

做什么、为什么需要:区分双向表示学习与左到右的生成目标。

例子:把“今天去学校”中的“学校”遮住,利用其余上下文恢复。

相关概念(不一定是同义词):自回归语言模型 · 预训练

交叉熵

Cross-entropy

也写作:cross entropy · cross-entropy · Cross-entropy

用目标分布评价预测概率分布的损失;单一正确类别时等于该类别预测概率的负对数。

做什么、为什么需要:读语言模型损失时,理解为何低概率正确答案会受更大惩罚。

例子:正确 token 的预测概率从 0.1 提高到 0.5,负对数损失会下降。

相关概念(不一定是同义词):词元 · 自回归语言模型

微调

Fine-tuning

也写作:fine-tuning · finetuning · Fine-tuning

在已训练模型基础上继续调整全部或部分参数,使其适应新的任务、数据或行为目标。

做什么、为什么需要:区分参数更新与只改变输入提示。

例子:LoRA 只训练低秩增量,也属于参数高效微调。

相关概念(不一定是同义词):预训练 · 低秩适配 · 上下文学习

监督微调

Supervised fine-tuning

也写作:监督微调 · Supervised fine-tuning

用输入及期望输出的配对数据,以监督损失继续训练已有模型。

做什么、为什么需要:区分学习示范答案与从偏好或奖励优化行为。

例子:给定指令与高质量回答,最小化回答 token 的预测损失。

相关概念(不一定是同义词):微调 · 人类反馈强化学习 · 直接偏好优化

上下文学习

In-context learning

也写作:ICL · in-context learning · In-context learning

通过当前输入中的说明和示例表现出任务适配,通常不为这次任务更新模型参数。

做什么、为什么需要:区分多给几个例子与实际微调模型权重。

例子:在提示中放两组中英翻译示例,再让模型完成第三组。

相关概念(不一定是同义词):微调 · 上下文窗口

上下文窗口

Context window

也写作:context window · 上下文长度 · Context window

一次推理中模型能够接收或处理的 token 范围;最大长度不保证每个位置的信息都被有效利用。

做什么、为什么需要:规划提示、文档分块和检索预算。

例子:文档放得下 100 页,也可能遗漏中间位置的一句关键约束。

相关概念(不一定是同义词):词元 · 检索增强生成 · 上下文学习

测试时计算扩展

Test-time scaling

也写作:test-time scaling · Test-time scaling · 测试时计算扩展

研究在给定模型与任务上,如何随推理预算增加而改善结果,以及收益何时饱和。

做什么、为什么需要:比较策略时同时报告正确率、生成量和总计算成本。

例子:更多候选只有配合有效选择器才可能改善最终答案,预算加倍不保证收益加倍。

相关概念(不一定是同义词):测试时计算 · 思维链

旋转位置编码

Rotary Position Embedding

也写作:旋转位置编码 · Rotary Position Embedding

通过位置相关旋转变换查询和键,让点积注意力包含相对位置信息。

做什么、为什么需要:理解位置处理与长上下文外推的联系。

例子:相隔相同步数的位置会产生相应相对旋转;训练长度外的表现仍需验证。

相关概念(不一定是同义词):注意力 · 上下文窗口

键值缓存

Key–value cache

也写作:KV Cache · KV缓存 · 键值缓存 · Key–value cache

在自回归生成中缓存此前 token 的键和值,避免每生成一个新 token 都重新计算这些表示。

做什么、为什么需要:理解长上下文和并发请求的显存开销。

例子:生成第 101 个 token 时,复用前 100 个位置已有的 K、V。

相关概念(不一定是同义词):注意力 · 自回归语言模型

量化

Quantization

也写作:quantization · Quantization

用较低精度或较少离散数值表示权重、激活等量,以减少存储或计算开销。

做什么、为什么需要:核对量化对象、位数、标定方法与实际质量损失。

例子:把部分权重由 16 位表示换成 4 位,并检查目标硬件是否真正加速。

相关概念(不一定是同义词):低秩适配 · 知识蒸馏

知识蒸馏

Knowledge distillation

也写作:distillation · Knowledge distillation

利用教师模型的输出或中间表示来训练学生模型;学生不一定更小,关键是训练信号来自教师。

做什么、为什么需要:区分模型压缩、能力迁移与直接复制教师参数。

例子:学生学习教师的类别概率,而非只学习一个硬标签。

相关概念(不一定是同义词):微调 · 量化

思维链

Chain of Thought

也写作:chain-of-thought · 思维链 · Chain of Thought

通过中间推理步骤组织求解的一类提示或输出方式;可读的推理文本不保证忠实反映内部计算。

做什么、为什么需要:评价最终答案与推理过程时,分别检查正确性和可验证性。

例子:算两次购物总价时先列每次小计,再求总和。

相关概念(不一定是同义词):测试时计算 · 上下文学习

幻觉

Hallucination

也写作:Hallucination

生成了不受输入证据支持或与事实不符的内容;是否属于幻觉取决于任务对事实和依据的要求。

做什么、为什么需要:把语言流畅度与事实可靠性分开评估。

例子:模型生成了格式正确但实际不存在的论文引用。

相关概念(不一定是同义词):检索增强生成

观测

Observation

也写作:Observation

智能体通过传感器或接口实际得到的信息;可能不完整或带噪声,不一定等于环境的完整状态。

做什么、为什么需要:识别部分可观测性与需要历史信息的原因。

例子:单帧相机看得到球的位置,却不直接给出其速度。

相关概念(不一定是同义词):马尔可夫决策过程 · 本体感知 · 状态估计

动作

Action

也写作:Action

策略交给环境或控制接口的决策变量;机器人中可能是力矩、速度、目标位姿或一段动作。

做什么、为什么需要:读实验时先确认动作的单位、坐标系、频率与底层控制含义。

例子:输出末端目标位置并不等于直接输出每个电机的力矩。

相关概念(不一定是同义词):策略 · 反馈控制 · 动作分块

示范

Demonstration

也写作:Demonstration

展示任务如何完成的行为数据,可包含观测、动作、轨迹或结果;未必提供每一步最优动作。

做什么、为什么需要:核对示范来源、数据质量和部署时能否获得同样输入。

例子:遥操作录下相机画面、关节状态和操作命令,组成配对训练数据。

相关概念(不一定是同义词):模仿学习 · 行为克隆 · 遥操作

行为克隆

Behavior cloning

也写作:BC · behavior cloning · behaviour cloning · Behavioral cloning · Behavior cloning

用示范中的观测与动作配对做监督学习,直接拟合专家动作选择。

做什么、为什么需要:理解无需显式奖励学习的优点,以及闭环分布偏移的局限。

例子:用专家相机画面预测夹爪动作;自己偏离示范后可能遇到未见状态。

相关概念(不一定是同义词):模仿学习 · 协变量偏移 · 数据集聚合

协变量偏移

Covariate shift

也写作:covariate shift · Covariate shift

训练与部署时输入分布改变;在行为克隆中,策略误差会改变之后访问的状态,使问题连续累积。

做什么、为什么需要:区别单步预测误差与闭环执行退化。

例子:示范都居中行驶,模型偏到路边后看到的图像超出示范覆盖。

相关概念(不一定是同义词):行为克隆 · 数据集聚合

逆强化学习

Inverse reinforcement learning

也写作:IRL · Inverse reinforcement learning

根据示范行为推断能够解释这些行为的奖励或代价;奖励一般不唯一,需要假设或正则化。

做什么、为什么需要:区分推断任务目标与直接复制动作。

例子:从绕开障碍的示范推断路径代价,再用该代价规划。

相关概念(不一定是同义词):模仿学习 · 奖励 · 行为克隆

域随机化

Domain randomization

也写作:domain randomization · Domain randomization

训练时随机改变视觉、动力学等环境参数,让模型接触一组变化的域,提高对未知条件的适应能力。

做什么、为什么需要:是缩小 sim-to-real 风险的一种方法,不能保证覆盖所有真实差异。

例子:随机化光照、纹理、摩擦或质量;真实条件超出训练范围时仍可能失败。

相关概念(不一定是同义词):仿真到真机迁移 · 动力学

扩散策略

Diffusion Policy

也写作:扩散策略

通过条件去噪过程生成动作分布或动作段的策略表示;原始 Diffusion Policy 主要用示范训练。

做什么、为什么需要:表达多模态连续动作,并区分去噪迭代与机器人执行时间。

例子:从动作噪声生成一段抓取动作,执行前几步后用新观测重新生成。

相关概念(不一定是同义词):行为克隆 · 动作分块

动作分块

Action chunking

也写作:action chunk · action chunking · 动作段 · Action chunking

一次预测一段连续动作,而不是只预测下一步;实际执行的长度可以短于预测长度。

做什么、为什么需要:理解动作连贯性、推理延迟与闭环反馈速度之间的取舍。

例子:模型预测未来 16 步,只执行前 4 步,再重新观测和预测。

相关概念(不一定是同义词):扩散策略 · 动作 · 反馈控制

具身形态

Embodiment

也写作:embodiment · 具身形态 · Embodiment

机器人身体、传感器和动作接口等物理条件的组合;影响哪些信息可见、哪些动作可执行。

做什么、为什么需要:比较跨机器人数据时,核对不同关节、末端和控制接口。

例子:单臂夹爪与双臂灵巧手可共享任务语言,却不能直接共享全部动作维度。

相关概念(不一定是同义词):视觉语言动作模型 · 动作

本体感知

Proprioception

也写作:proprioception · 本体状态 · Proprioception

关于机器人自身关节、速度、姿态或力等内部状态的感知信息。

做什么、为什么需要:区分自身状态观测与相机看到的外部环境。

例子:编码器读取关节角,IMU 提供惯性测量;两者仍可能带噪声。

相关概念(不一定是同义词):观测 · 状态估计

遥操作

Teleoperation

也写作:Teleoperation

人通过远程控制接口操纵机器人,可用于执行任务或收集示范。

做什么、为什么需要:读数据集时,判断人的控制方式与记录动作之间的关系。

例子:操作者移动主机械臂,机器人从臂跟随,系统记录同步示范。

相关概念(不一定是同义词):示范 · 动作

坐标系

Coordinate frame

也写作:Coordinate frame

规定位置与方向数值所参照的原点和坐标轴;同一物理对象在不同坐标系中有不同数值。

做什么、为什么需要:任何位姿、速度或力都先确认表达在哪个坐标系。

例子:杯子在相机坐标系向前 0.5 米,转换到机械臂基座坐标后数值会改变。

相关概念(不一定是同义词):位姿 · 刚体变换

位姿

Pose

也写作:Pose

物体相对于指定坐标系的位置与朝向;只有位置不足以完整描述三维抓取目标。

做什么、为什么需要:区分平移、旋转及其组合,避免混用坐标约定。

例子:夹爪到达杯子位置后,还需要正确朝向才能抓住杯柄。

相关概念(不一定是同义词):坐标系 · 刚体变换 · 逆运动学

刚体变换

Rigid transform

也写作:刚性变换 · rigid transformation · Rigid transform

由旋转和平移组成、保持点间距离的坐标变换;常用齐次矩阵表示。

做什么、为什么需要:把感知、机器人和世界中的点放到一致参考系。

例子:相机点先乘旋转矩阵,再加平移,得到基座坐标中的点。

相关概念(不一定是同义词):坐标系 · 位姿

正运动学

Forward kinematics

也写作:正向运动学 · Forward kinematics

根据关节构型与几何模型求连杆或末端位姿,不直接求产生运动需要的力。

做什么、为什么需要:建立关节空间与任务空间之间的几何关系。

例子:已知肩、肘角度和连杆长度,计算夹爪的位置与朝向。

相关概念(不一定是同义词):逆运动学 · 雅可比矩阵 · 动力学

雅可比矩阵

Jacobian

也写作:Jacobian · 雅可比

在当前构型附近,把关节速度映射到末端速度的局部线性关系;具体形式取决于坐标和速度表示。

做什么、为什么需要:理解微分逆运动学、奇异性及力到关节力矩的映射。

例子:ẋ=J(q)q̇;接近奇异构型时,小末端速度也可能要求很大关节速度。

相关概念(不一定是同义词):逆运动学 · 正运动学 · 动力学

动力学

Dynamics

也写作:Dynamics

描述力、力矩、质量惯性与运动变化的关系;不同于只描述位置与姿态关系的运动学。

做什么、为什么需要:判断计划是否满足真实执行器、接触和惯性约束。

例子:同样一条关节轨迹,搬重物时所需力矩可能更大。

相关概念(不一定是同义词):正运动学 · 反馈控制 · 模型预测控制

构型空间

Configuration space

也写作:C-space · 配置空间 · Configuration space

以能完整描述机器人几何配置的变量为坐标的空间;机器人与障碍碰撞的配置构成障碍区域。

做什么、为什么需要:把多连杆避障转换成构型点的搜索问题。

例子:两关节机械臂的一个配置是 (q1,q2),不是夹爪的二维位置。

相关概念(不一定是同义词):运动规划 · 逆运动学 · 快速探索随机树

运动规划

Motion planning

也写作:Motion planning

在约束下寻找从起点到目标的可行路径或轨迹;有无时间、速度与动力学约束取决于问题设定。

做什么、为什么需要:区分几何避障、时间参数化与底层反馈控制。

例子:找到绕过桌角的无碰路径后,还要决定执行速度并跟踪。

相关概念(不一定是同义词):构型空间 · 快速探索随机树 · A* 搜索 · 反馈控制

状态估计

State estimation

也写作:State estimation

根据带噪观测、动作与模型推断系统不可直接完整测得的状态。

做什么、为什么需要:先看状态有哪些量,再看传感器能提供哪些约束。

例子:融合轮速计和相机来估计机器人位置与速度。

相关概念(不一定是同义词):卡尔曼滤波 · 可观测性 · 观测

粒子滤波

Particle filter

也写作:particle filter · Particle filter

用带权样本近似状态分布,并通过预测、观测加权与重采样递推估计。

做什么、为什么需要:在非线性或多峰定位问题中保留多种可能状态。

例子:相似走廊导致两个可能位置时,用两群粒子保留两种假设。

相关概念(不一定是同义词):状态估计 · 卡尔曼滤波

因子图

Factor graph

也写作:factor graph · Factor graph

用变量节点和约束因子描述联合概率或优化问题的稀疏依赖结构。

做什么、为什么需要:把定位建图中的状态、测量与代价项对应起来。

例子:各时刻位姿是变量,里程计和回环测量产生连接它们的因子。

相关概念(不一定是同义词):同时定位与地图构建 · 回环闭合 · 状态估计

回环闭合

Loop closure

也写作:loop closure · Loop closure

识别当前地点与过去访问地点的关联,并加入相应约束以减少累积漂移。

做什么、为什么需要:将地点识别与几何验证分开;错误回环会破坏地图。

例子:回到同一房间后,先核对视觉和几何一致性,再约束两次位姿。

相关概念(不一定是同义词):同时定位与地图构建 · 因子图

可观测性

Observability

也写作:observability · Observability

由给定输入、模型和观测能否区分内部状态的性质;不是换一个滤波器就能凭空增加的信息。

做什么、为什么需要:判断状态估计问题是否从根本上缺少约束。

例子:若测量和运动从不提供某一方向的信息,调小噪声协方差也无法确定它。

相关概念(不一定是同义词):状态估计 · 卡尔曼滤波

反馈控制

Feedback control

也写作:Feedback control

根据实际测量与目标的偏差不断调整控制输入,使系统跟踪目标或维持所需行为。

做什么、为什么需要:区分开环播放动作、重新规划与底层闭环跟踪。

例子:手臂受扰偏离目标后,控制器利用新误差调整电机命令。

相关概念(不一定是同义词):动力学 · 模型预测控制 · 阻抗控制

阻抗控制

Impedance control

也写作:Impedance control

通过控制塑造运动偏差与交互力之间的动态关系,常用质量、阻尼、刚度类比描述。

做什么、为什么需要:理解机器人接触环境时为何需要适当柔顺性。

例子:插孔时允许横向小幅让步并保留阻尼;并非刚度越低就一定越安全。

相关概念(不一定是同义词):反馈控制 · 动力学

模型预测控制

Model Predictive Control

也写作:模型预测控制 · Model Predictive Control

根据模型在有限预测时域内优化控制序列,只执行前一部分,再根据新状态滚动求解。

做什么、为什么需要:区分显式在线规划与已训练策略的一次前向输出。

例子:四足机器人预测未来支撑力,执行当前控制后重新估计并规划。

相关概念(不一定是同义词):基于模型的强化学习 · 反馈控制 · 轨迹展开

sₜ / s′

强化学习 · MDP 与价值更新

当前状态 / 下一状态

类型/单位:状态变量

约定与边界:观测不一定是完整状态;s′ 不表示对 s 求导。

aₜ

强化学习 · 策略与交互轨迹

在第 t 步选择的动作

类型/单位:动作变量

约定与边界:连续控制时 a 可以是向量;与机器人执行接口对应。

π(a|s)

强化学习 · 随机策略

给定状态时的动作概率分布

类型/单位:条件概率/密度

约定与边界:连续动作中的 π 通常是概率密度;一次具体动作由分布采样。

μθ(s)

强化学习 · DPG / DDPG / TD3

给定状态直接输出动作的确定性策略

类型/单位:向量值函数

约定与边界:μ 在别的公式也可能是均值或行为分布;只按当前语境解读。

Vπ(s)

强化学习 · 状态价值

从 s 开始按 π 行动的期望回报

类型/单位:标量函数

约定与边界:V 对接下来按策略选择的动作取平均;不同于指定动作后的 Q。

Qπ(s,a)

强化学习 · 动作价值

在 s 先做 a,随后按 π 行动的期望回报

类型/单位:标量函数

约定与边界:Q* 表示最优后续行为的价值;这里的 Q 不是注意力查询或噪声协方差。

Aπ(s,a)

强化学习 · 策略梯度与优势估计

相对该状态平均水平的动作优势 Qπ−Vπ

类型/单位:标量函数

约定与边界:估计优势 Â 不等于真实优势;可以来自 GAE 或组内奖励比较。

rₜ

强化学习 · 交互与 Bellman 目标

当前一步的奖励反馈

类型/单位:标量

约定与边界:奖励的时间下标约定可能是 rₜ 或 rₜ₊₁;以本文定义为准。

Gₜ

强化学习 · 蒙特卡洛与策略梯度

从当前时刻开始累计的后续回报

类型/单位:标量随机变量

约定与边界:是多个未来奖励的累计,不是即时奖励,也不是 V 的预测值。

γ

强化学习 · 折扣回报与 TD

未来奖励的折扣因子

类型/单位:标量超参数

约定与边界:γ=1 需要同时考虑有限回合或相应收敛条件。

δₜ

强化学习 · 时序差分

目标与当前价值预测之间的 TD 误差

类型/单位:标量

约定与边界:常见一步形式为 r+γV(s′)−V(s),真实终止时不再自举。

τ

强化学习 · 轨迹分布与策略梯度

按时间排列的一段状态、动作与反馈轨迹

类型/单位:序列/随机变量

约定与边界:不是 DMP 的时间尺度;轨迹可以是片段,不必包含完整回合。

θ / φ

强化学习 · 参数化模型

策略、价值或模型的可学习参数

类型/单位:参数向量

约定与边界:哪个字母对应哪个网络由论文定义;两套参数也可能共享一部分。

α

强化学习 · SAC 最大熵目标

控制奖励与策略熵相对权重的温度

类型/单位:非负标量

约定与边界:这是熵系数,不是这里默认的梯度学习率;部分方法自动调整它。

ρₜ / π(a|s)÷μ(a|s)

强化学习 · 离策略重要性修正

目标策略与行为策略对同一动作的概率比

类型/单位:无量纲标量

约定与边界:分母必须对目标所需动作有支持;比率或连乘可能带来高方差。

rₜ(θ)

强化学习 · PPO 裁剪目标

当前策略概率除以采样时旧策略概率

类型/单位:无量纲标量

约定与边界:这里 r 是概率比,不是环境奖励;看 r 的参数与分式定义。

λ

强化学习 · TD(λ) 与 GAE

控制多步 TD 残差加权衰减的参数

类型/单位:标量超参数

约定与边界:它调节估计的偏差与方差;并不是另一个奖励折扣的通用别名。

𝒟 / B

强化学习 · 经验回放与离线学习

经验数据集或训练批次

类型/单位:样本集合

约定与边界:集合来源、是否固定以及能否采集新数据,需由训练设置判断。

N(s,a)

强化学习 · MCTS / PUCT

搜索树中状态–动作边的访问次数

类型/单位:非负整数

约定与边界:访问次数用于搜索预算分配;不是该动作的真实概率或 Q 值。

Q

大语言模型 · 缩放点积注意力

注意力中的查询矩阵

类型/单位:矩阵

约定与边界:由输入经查询投影得到;不是 RL 的动作价值。

K

大语言模型 · 缩放点积注意力

供查询匹配的键矩阵

类型/单位:矩阵

约定与边界:与 Q 的点积形成注意力分数;不是 Kalman 增益。

V

大语言模型 · 缩放点积注意力

被注意力权重加权读取的值矩阵

类型/单位:矩阵

约定与边界:这里的 Value 是被读取的表示,不是强化学习状态价值。

dₖ

大语言模型 · 缩放点积注意力

每个注意力头的键/查询维度

类型/单位:正整数

约定与边界:分母 √dₖ 控制点积的尺度;不一定等于模型隐藏维度。

αᵢⱼ

大语言模型 · 加性注意力

输出位置 i 读取源位置 j 的归一化权重

类型/单位:标量权重

约定与边界:该权重不是学习率;权重可视化不自动构成因果解释。

pθ(xₜ|x<t)

大语言模型 · 自回归语言建模

给定此前 token 时预测下一 token 的条件概率

类型/单位:条件概率

约定与边界:训练常最大化正确 token 的概率;自由生成时此前 token 来自模型。

ℒ / L

大语言模型 · 模型训练

当前任务定义的训练损失

类型/单位:标量目标

约定与边界:交叉熵、蒸馏与偏好目标的 L 含义不同;先读本节具体公式。

θ

大语言模型 · 语言建模与偏好优化

模型的可学习参数

类型/单位:参数向量

约定与边界:θref、θold 等下标表示参考或旧参数,不能忽略下标。

ΔW = BA

大语言模型 · LoRA

以两个低秩矩阵的乘积表示权重增量

类型/单位:矩阵分解

约定与边界:r 是适配秩,A、B 的尺寸依原权重方向约定;不是训练全部 W。

β

大语言模型 · DPO 的 KL 正则化推导与损失

控制策略相对参考模型偏离程度的系数

类型/单位:正标量超参数

约定与边界:β 不是整个网站统一的学习率或采样温度;解释依当前目标约定。

y_w / y_l

大语言模型 · 成对偏好训练

同一输入下偏好更高 / 更低的回答

类型/单位:输出序列对

约定与边界:胜出回答只表示在这对样本中更被偏好,不保证绝对正确。

π(a|s)

机器人学习 · 随机策略

给定状态时的动作概率分布

类型/单位:条件概率/密度

约定与边界:连续动作中的 π 通常是概率密度;一次具体动作由分布采样。

Qπ(s,a)

机器人学习 · 动作价值

在 s 先做 a,随后按 π 行动的期望回报

类型/单位:标量函数

约定与边界:Q* 表示最优后续行为的价值;这里的 Q 不是注意力查询或噪声协方差。

Vπ(s)

机器人学习 · 状态价值

从 s 开始按 π 行动的期望回报

类型/单位:标量函数

约定与边界:V 对接下来按策略选择的动作取平均;不同于指定动作后的 Q。

rₜ

机器人学习 · 交互与 Bellman 目标

当前一步的奖励反馈

类型/单位:标量

约定与边界:奖励的时间下标约定可能是 rₜ 或 rₜ₊₁;以本文定义为准。

Gₜ

机器人学习 · 蒙特卡洛与策略梯度

从当前时刻开始累计的后续回报

类型/单位:标量随机变量

约定与边界:是多个未来奖励的累计,不是即时奖励,也不是 V 的预测值。

oₜ / Oₜ

机器人学习 · 视觉运动策略

当前观测或一段观测历史

类型/单位:向量/图像/序列

约定与边界:观测可以包含图像和本体状态;大写 O 有时特指堆叠历史。

aₜ

机器人学习 · 机器人动作接口

当前动作或控制命令

类型/单位:向量

约定与边界:先核对单位、坐标和频率;目标位姿与关节力矩不是同一种动作。

τ

机器人学习 · DMP 动力系统

调整运动快慢的时间尺度

类型/单位:正标量

约定与边界:τ 在本篇不是采样轨迹;与其他方程中的时间缩放约定需一起看。

g / y

机器人学习 · DMP 离散运动

目标位置 / 当前期望位置

类型/单位:标量或向量

约定与边界:y 是生成器的期望轨迹,真实机器人是否跟上还取决于底层控制。

f / Ψᵢ / wᵢ

机器人学习 · DMP 轨迹形状

形状项 / 局部基函数 / 学习权重

类型/单位:函数/参数

约定与边界:2002 年原文和后来的常见 DMP 方程并不完全相同;以本篇版本为准。

t / k

机器人学习 · Diffusion Policy

机器人执行时刻 / 去噪迭代等级

类型/单位:两个不同的时间索引

约定与边界:k 改变同一动作段的噪声等级,不表示机器人已经执行一步。

ε / εθ

机器人学习 · 动作扩散训练

加入的噪声 / 网络预测的噪声

类型/单位:动作维度的张量

约定与边界:训练噪声预测误差不等于直接对所有专家动作取平均。

Tₒ / Tₚ / Tₐ

机器人学习 · Diffusion Policy 滚动执行

观测历史长度 / 预测动作长度 / 实际执行长度

类型/单位:正整数

约定与边界:通常执行长度不大于预测长度;更长执行片段会推迟反馈修正。

u / τ

机器人学习 · π₀ 流匹配

连接噪声与动作分布的插值时间

类型/单位:通常在 [0,1] 的标量

约定与边界:本篇区分官方实现 u 与论文 τ 的反向约定;不是 DMP 时间尺度或机器人执行时刻。

vθ(Xᵤ,o,u)

机器人学习 · π₀ 流匹配

把插值样本沿生成路径移动的预测向量场

类型/单位:与动作段同维度的向量场

约定与边界:这里 velocity 描述生成路径上的变化,不直接等于机器人真实关节速度。

𝒟 / 𝒟E

机器人学习 · 模仿学习

训练数据集 / 专家示范集

类型/单位:样本集合

约定与边界:记录里是否有状态、图像、动作和成功标签,依具体数据集而定。

q / q̇

机器人经典 · 机器人运动学与动力学

关节构型 / 关节速度

类型/单位:向量

约定与边界:q 不是概率;旋转关节与移动关节的单位不同。

J(q)

机器人经典 · 微分运动学与力映射

当前构型处的速度雅可比矩阵

类型/单位:矩阵

约定与边界:J 不是 RL 的期望回报目标;行列维度由任务坐标与关节数决定。

T = [R,p;0,1]

机器人经典 · 三维坐标变换

旋转与平移组成的齐次刚体变换

类型/单位:4×4 矩阵

约定与边界:R 在几何语境是旋转矩阵,不是 Kalman 测量噪声协方差。

x̂⁻ / x̂⁺

机器人经典 · Kalman 预测与修正

测量融合前的预测 / 融合后的状态估计

类型/单位:状态向量

约定与边界:上标 −、+ 是更新阶段,不是正负位置;不同书也用 k|k−1 与 k|k。

P

机器人经典 · Kalman 滤波

状态估计误差的协方差

类型/单位:对称半正定矩阵

约定与边界:小 P 表示模型认为自己不确定性小;统计假设错误时仍可能过度自信。

Q

机器人经典 · Kalman 状态预测

过程噪声的协方差

类型/单位:对称半正定矩阵

约定与边界:它描述未建模扰动的不确定性,不是 RL 动作价值或 MPC 代价权重。

R

机器人经典 · Kalman 测量融合

测量噪声的协方差

类型/单位:对称半正定矩阵

约定与边界:这里 R 不是旋转矩阵;设小只代表更相信测量,不让传感器本身更准。

K

机器人经典 · Kalman 修正

将测量创新映射为状态修正的 Kalman 增益

类型/单位:矩阵

约定与边界:增益由预测不确定性与测量模型共同决定,不是传感器固定权重。

z−H x̂⁻

机器人经典 · Kalman 修正与模型检查

实际测量与预测测量的差(创新)

类型/单位:测量空间向量

约定与边界:创新长期有偏或有未解释相关性,可能提示模型、同步或噪声设定有误。

F / H

机器人经典 · 线性 Kalman 模型

状态转移矩阵 / 测量矩阵

类型/单位:矩阵

约定与边界:F 把状态推到下一时刻,H 把状态映射到可测量量。

K / D

机器人经典 · 阻抗控制

期望刚度 / 阻尼

类型/单位:标量或矩阵

约定与边界:这里 K 不是 Kalman 增益;参数含义依控制坐标和方程形式而定。

f(n)=g(n)+h(n)

机器人经典 · A* 图搜索

已走代价加剩余代价的启发式估计

类型/单位:标量代价

约定与边界:h 可接受不等于任何闭集实现都自动最优;还需核对一致性或重新打开节点的处理。

xₖ / uₖ

机器人经典 · 模型预测控制

预测状态 / 待优化控制输入

类型/单位:向量

约定与边界:Cheetah MPC 的 u 是足端接触力,不能自动当成关节力矩。

Qₖ / Rₖ

机器人经典 · MPC 二次代价

状态跟踪误差 / 控制输入的代价权重

类型/单位:半正定/正定权重矩阵

约定与边界:它们在本篇是设计者选择的优化权重,不是 Kalman 过程/测量噪声。

p(mᵢ|z₁:ₜ)

机器人经典 · 占据栅格

结合观测后第 i 格被占据的概率

类型/单位:[0,1] 的标量

约定与边界:未知、空闲与占据应区分;概率阈值是后续决策约定。