马尔可夫决策过程
Markov Decision Process
也写作:Markov Decision Process · 马尔可夫决策过程
用状态、动作、转移、奖励及折扣描述序列决策;给定当前状态和动作,下一步的分布不再依赖更早历史。
做什么、为什么需要:先核对论文如何定义任务,以及观测是否真能当作状态。
例子:棋盘局面可近似完整状态;单张机器人照片可能漏掉速度。
先弄清它做什么,再看公式怎样写。中英文、缩写和用途都可以搜索;同一个符号在不同系列、甚至同篇文章里,可能有不同含义。正文的局部定义优先。
没有匹配项,试试英文、中文或更短的关键词。
Markov Decision Process
也写作:Markov Decision Process · 马尔可夫决策过程
用状态、动作、转移、奖励及折扣描述序列决策;给定当前状态和动作,下一步的分布不再依赖更早历史。
做什么、为什么需要:先核对论文如何定义任务,以及观测是否真能当作状态。
例子:棋盘局面可近似完整状态;单张机器人照片可能漏掉速度。
Temporal Difference
也写作:Temporal Difference · 时序差分
用即时奖励加下一步的价值预测形成目标,再与当前预测比较;可以不用等到整局结束。
做什么、为什么需要:通过相邻时刻预测的差来逐步学习价值。
例子:δ=r+γV(s′)−V(s);真实终止后通常不再加入下一状态价值。
Q-learning
也写作:Q 学习
用下一状态最大动作价值构造 TD 目标,学习最优动作价值的经典离策略方法。
做什么、为什么需要:理解行为仍在探索,但更新目标可以是贪心行为。
例子:采集时偶尔随机走,更新却使用 r+γ max Q(s′,a′)。
Policy gradient
也写作:policy gradient · Policy gradient
对策略参数求期望回报的梯度并据此改进策略的一类方法。REINFORCE 是其中一种估计方式,不是整个类别的别名。
做什么、为什么需要:直接改进行为概率或动作函数,而不必先对全部动作求最优 Q。
例子:提高高优势动作的对数概率;连续确定性策略也有相应策略梯度。
相关概念(不一定是同义词):REINFORCE 蒙特卡洛策略梯度 · 行动者–评价者 · 确定性策略
Actor–Critic
也写作:Actor-Critic · Actor Critic · 行动者-评价者 · 行动者–评价者
同时学习动作选择规则与价值评价,通过评价信号改进策略的一类方法;Actor 与 Critic 是功能分工,不一定是两个神经网络。
做什么、为什么需要:把“如何行动”和“行动后预计多好”拆开理解。
例子:Actor 提高正优势动作的概率,Critic 同时改进对长期回报的预测。
Proximal Policy Optimization
也写作:Proximal Policy Optimization · 近端策略优化
通过限制策略更新的替代目标来改进策略的方法家族;常见 PPO-Clip 裁剪新旧动作概率比的目标项。
做什么、为什么需要:减少单批数据上过大的策略更新,但裁剪不等于严格保证 KL 上限。
例子:旧策略采集一批轨迹,新策略在有限轮次中用裁剪目标更新。
Direct Preference Optimization
也写作:Direct Preference Optimization · 直接偏好优化
从偏好对直接优化策略相对参考模型的概率比;常见实现不必单独训练奖励模型再运行在线 RL。
做什么、为什么需要:读偏好训练时,区分固定偏好数据与在线采样奖励优化。
例子:给定较好与较差回答,提高前者相对后者的模型概率优势。
Group Relative Policy Optimization
也写作:Group Relative Policy Optimization · 组相对策略优化
对同一输入采样一组输出,以组内奖励比较构造优势的策略优化方法;原始形式省去独立价值模型。
做什么、为什么需要:读推理模型 RL 时,分清组内相对分数与传统价值基线。
例子:同一题采样多个答案,再根据各答案相对组平均奖励的好坏更新。
Off-policy
也写作:离策略
学习目标策略时,允许数据来自不同的行为策略。它不等于离线,也不意味着完全不能采集新数据。
做什么、为什么需要:判断历史经验能否重用,以及分布差异如何处理。
例子:DQN 一边与环境交互,一边从旧经验池学习,是在线、离策略方法。
Offline RL
也写作:Offline RL
在给定数据集上学习策略,训练阶段不能通过继续环境交互补充数据;部署评估或之后在线微调是另一阶段。
做什么、为什么需要:关注数据覆盖不足、分布外动作与价值高估。
例子:只有旧机器人操作日志,训练期间不能再让机器人试新动作。
World model
也写作:world model · World model
学习环境状态、观测、奖励或其潜在表示如何随动作变化的预测模型;可用于规划、想象训练或评估。
做什么、为什么需要:先看模型预测什么,再看算法怎样使用它。
例子:预测推杯子后杯子的位置;预测正确也不自动保证规划出的动作安全。
相关概念(不一定是同义词):基于模型的强化学习 · Dreamer 潜在想象学习
Attention
也写作:attention · Attention
根据当前位置的需求,对一组信息计算权重并加权读取的机制;加性注意力与点积注意力是不同实现。
做什么、为什么需要:解决固定摘要的瓶颈;注意力不自动等于自注意力。
例子:翻译当前目标词时,动态读取不同源词位置的表示。
相关概念(不一定是同义词):自注意力 · Transformer 架构
Transformer
也写作:Transformer 架构
以注意力、前馈变换、残差连接和归一化等模块组成的模型架构家族;原论文含编码器与解码器。
做什么、为什么需要:先区分架构与语言建模目标,再区分训练并行与自回归生成。
例子:训练可同时计算已知序列各位置的损失;逐 token 生成仍依赖此前输出。
Pre-training
也写作:pre-training · pretraining · Pre-training
在下游适配之前,通过较大范围数据与目标学习可复用能力或表示的阶段。
做什么、为什么需要:区分先学习基础能力和之后面向特定任务的适配。
例子:先在通用文本上训练语言模型,再用问答示范微调。
Low-Rank Adaptation
也写作:低秩适配 · Low-Rank Adaptation
冻结基础权重,以两个较小矩阵的乘积表示并训练权重增量的参数高效适配方法。
做什么、为什么需要:降低需要训练的参数量与优化器状态开销。
例子:W 保持不变,训练 ΔW=BA;推理时可按实现将增量合并。
Retrieval-Augmented Generation
也写作:检索增强生成 · Retrieval-Augmented Generation
把外部检索结果作为生成的条件或证据来源,使模型可利用参数之外的信息。
做什么、为什么需要:区分检索、证据选择与答案生成各自的错误。
例子:先查公司手册,再依据相关段落回答报销政策;仍需核对引用是否支持结论。
Reinforcement Learning from Human Feedback
也写作:人类反馈强化学习 · Reinforcement Learning from Human Feedback
把人类反馈转成训练信号来改进模型行为;常见流程先学习偏好奖励,再用强化学习优化策略。AI 反馈通常另称 RLAIF。
做什么、为什么需要:区分反馈来源、奖励模型与策略优化三个环节。
例子:人类比较两个回答,奖励模型学排序,再用 PPO 改进回答策略。
Mixture of Experts
也写作:混合专家 · Mixture of Experts
由多个专家子模型与路由机制组成;稀疏 MoE 对每个 token 只激活部分专家。
做什么、为什么需要:区分总参数、每 token 激活参数与实际推理开销。
例子:路由器把一个 token 送给两个专家,但通信和负载平衡仍有成本。
相关概念(不一定是同义词):Transformer 架构 · 词元
Test-time computation
也写作:test-time compute · inference-time compute · Test-time computation
在推理阶段用于生成、采样、搜索或验证的计算量与机制;增加它是否改善结果需要实测。
做什么、为什么需要:把训练预算与回答问题当下的推理预算分开。
例子:同一个已训练模型,为一道题采样 16 个候选再验证。
Dynamic Movement Primitives
也写作:动态运动基元 · Dynamic Movement Primitives
用结构化动力系统表示可调节的运动形状;离散运动与周期运动有不同形式,稳定性依赖具体条件。
做什么、为什么需要:复用示范并调整目标或时间尺度;它是运动表示,不必用 RL 训练。
例子:把一次挥拍写成期望轨迹生成器,改终点后仍需底层控制器准确跟踪。
Dataset Aggregation
也写作:Dataset Aggregation · 数据集聚合
让学习者访问状态,再请专家标注这些状态的动作,逐轮聚合数据并训练策略的方法。
做什么、为什么需要:缓解只在专家访问状态训练造成的误差累积。
例子:机器人自己把杯子推歪后,专家示范如何纠正,纠正数据加入下一轮训练。
相关概念(不一定是同义词):行为克隆 · 协变量偏移 · 模仿学习
Vision-Language-Action model
也写作:视觉语言动作 · Vision-Language-Action · Vision-Language-Action model · 视觉语言动作模型
以视觉与语言等信息为条件生成机器人动作的模型类别;动作表示和底层执行接口依模型而异。
做什么、为什么需要:区分语言理解、动作生成与真机控制能力。
例子:看到桌面并收到“把杯子放进盘子”,模型输出机器人动作。
相关概念(不一定是同义词):动作 · 具身形态 · Transformer 架构
Imitation learning
也写作:Imitation learning
利用专家示范学习行为的一类方法,包括直接行为克隆、交互式模仿及部分逆强化学习流程。
做什么、为什么需要:先看示范怎样转成训练信号,不能把整个类别等同于行为克隆。
例子:可直接拟合专家动作,也可从示范推断奖励后再优化策略。
Sim-to-real transfer
也写作:sim2real · sim-to-real · Sim-to-real transfer · 仿真到真机迁移
将仿真中获得的策略、模型或方法迁移到真实系统的任务与过程;域随机化只是其中一种手段。
做什么、为什么需要:先找仿真与真实的差异,再看所用迁移方法能覆盖哪些差异。
例子:仿真学会抓取后,上真机要处理摩擦、相机和执行延迟的差异。
A-star search
也写作:A-star · A-star search · A* 搜索
按已走代价与到目标的启发式估计之和选择扩展节点的搜索算法;最优性依赖启发式与具体搜索实现的条件。
做什么、为什么需要:将启发式引导与最短路径保证的条件一起阅读。
例子:四邻接、单位代价栅格用曼哈顿距离作启发式;带障碍时仍逐步扩展可行路径。
Rapidly-exploring Random Tree
也写作:Rapidly-exploring Random Tree · 快速探索随机树
通过随机采样并朝样本扩展树来探索连续空间的路径规划方法;基本 RRT 不保证渐近最优。
做什么、为什么需要:区分快速找到可行解与持续改进到最优解。
例子:机械臂在高维关节空间随机扩展无碰节点;RRT* 才引入面向渐近最优的重连。
Kalman filter
也写作:卡尔曼滤波 · Kalman filtering · Kalman filter
在线性模型和适当已知二阶噪声统计下递推最优线性估计;联合高斯条件使其还对应完整的高斯后验更新。
做什么、为什么需要:理解预测与测量如何根据不确定性融合;不要把最优性说成无条件保证。
例子:用运动模型预测位置,再按协方差权衡 GPS 测量的修正幅度。
Simultaneous Localization and Mapping
也写作:同时定位与地图构建 · Simultaneous Localization and Mapping
在未知环境中联合估计自身位姿和地图;两者的不确定性相互关联。
做什么、为什么需要:区分定位、建图、回环检测与后端优化的职责。
例子:机器人绕一圈回到原处,用回环约束修正整段轨迹与地图。
Inverse kinematics
也写作:IK · inverse kinematics · Inverse kinematics
由目标末端位姿反求满足几何约束的关节构型;可能多解、无解或接近奇异。
做什么、为什么需要:区分几何可达性与动力学可执行性。
例子:同一夹爪位姿可能对应肘上、肘下两种关节构型。
Occupancy grid
也写作:occupancy grid · Occupancy grid
把空间划为格子并估计每格被障碍占据的概率或状态;未知不等于空闲。
做什么、为什么需要:把传感器观测转换为可供避障规划使用的空间表示。
例子:激光射线经过的格子倾向空闲,命中的端点倾向被占据。
Policy
也写作:Policy
从状态、观测或历史到动作选择规则的映射;可以输出一个动作,也可以输出动作分布。
做什么、为什么需要:回答智能体下一步怎么做,不等于评价这一步有多好。
例子:同样看到前方障碍,策略决定左转还是减速。
Stochastic policy
也写作:Stochastic policy
给定输入后输出动作的条件概率分布,再按该分布采样。随机指策略的动作选择,不是环境一定随机。
做什么、为什么需要:表达多个可选行为,也可提供探索和对数概率梯度。
例子:π(左转|s)=0.7,π(右转|s)=0.3;重复同一状态仍可能选不同动作。
相关概念(不一定是同义词):确定性策略 · 策略梯度 · 熵
Deterministic policy
也写作:Deterministic policy
给定同一输入及固定参数,直接输出同一个动作。训练采集时可以另外加探索噪声。
做什么、为什么需要:把连续动作看作可微函数,区分策略本身与采集噪声。
例子:机械臂 Actor 输出 0.2 的控制量;采集时再加噪声,并不会把其网络改成概率分布。
State-value function
也写作:state value · V-value · State-value function · 状态价值函数
Vπ(s) 是从状态 s 出发,之后按策略 π 行动所得到的期望回报;已经对接下来的动作取平均。
做什么、为什么需要:评估局面,常用作策略梯度的基线。
例子:“站在路口,按当前导航策略走下去,平均还能得多少分?”
相关概念(不一定是同义词):动作价值函数 · 回报 · 评价者
Action-value function
也写作:action value · Q-function · Q 值 · Q值 · Action-value function · 动作价值函数
Qπ(s,a) 是先在 s 执行动作 a,再按 π 行动的期望回报。Q* 才指最优后续行为对应的动作价值。
做什么、为什么需要:比较同一状态下不同动作的长期后果。
例子:Q(s,左转) 与 Q(s,右转) 比较的是先做哪一步更好。
相关概念(不一定是同义词):状态价值函数 · 优势函数 · Q 学习
Advantage function
也写作:advantage · Advantage function
Aπ(s,a)=Qπ(s,a)−Vπ(s),表示某动作相对当前策略在该状态下平均水平的好坏。
做什么、为什么需要:让策略更新关注比预期更好或更差的动作。
例子:该局面平均回报为 5,某动作预计为 7,则优势为 2。
Actor
也写作:行动者
负责动作选择的策略部分;可能是概率规则、表格或网络。它描述功能角色,不规定一定采用深度网络。
做什么、为什么需要:读 Actor–Critic 时先找哪一部分实际决定动作。
例子:早期 Actor–Critic 的动作选择单元与今天输出高斯分布的神经网络,都是 Actor 的不同实现。
Critic
也写作:评价者
估计状态价值或动作价值,并为策略改进提供评价信号的部分;不是环境奖励本身。
做什么、为什么需要:区分即时奖励、价值预测和由两者构造的 TD 误差。
例子:Critic 认为该局面可得 5 分,实际反馈使它修正预测,并影响 Actor。
Reward
也写作:Reward
环境或任务定义给出的单步反馈信号;它与累计回报、价值预测以及训练损失是不同量。
做什么、为什么需要:识别算法究竟在优化什么反馈,以及是否存在奖励设计漏洞。
例子:每前进一步奖励 −1,到达目标奖励 +10;这一局的回报由整段奖励组成。
Return
也写作:累计回报 · Return
一段未来奖励按目标约定累计得到的量;可为有限时域总和,也可含折扣。
做什么、为什么需要:区分一时的奖励与长期目标。
例子:后续奖励为 1、2,折扣为 0.9,则当前两步回报为 1+0.9×2。
Discount factor
也写作:discount factor · Discount factor
通常记作 γ,决定未来奖励相对当前奖励的权重;γ 的选择也是任务目标的一部分。
做什么、为什么需要:比较论文目标时,核对折扣、终止和截断的约定。
例子:γ=0 只看即时奖励;γ 接近 1 时会更重视远期奖励。
Bootstrapping
也写作:bootstrapping · Bootstrapping
用另一个已有估计来构造当前学习目标;RL 中常见于用下一状态价值更新当前价值。
做什么、为什么需要:理解 TD 的数据效率,以及错误估计为何可能继续传播。
例子:目标 r+γV(s′) 含模型当前的 V 估计;完整蒙特卡洛回报不需要这项自举。
Bellman equation
也写作:贝尔曼方程 · Bellman equation
把一个状态或动作的价值拆成即时奖励与下一步价值的递归关系;策略评估与最优性方程的动作处理不同。
做什么、为什么需要:看懂 TD、Q-learning 等算法更新目标从何而来。
例子:评估固定策略时对其下一动作求期望;最优性方程则对下一动作取最大值。
State–Action–Reward–State–Action
也写作:State–Action–Reward–State–Action
用实际选择的下一动作价值构造更新目标的经典在策略 TD 控制方法。
做什么、为什么需要:与 Q-learning 对照,分清下一动作是实际采样还是取最大值。
例子:走悬崖时,SARSA 的目标会反映探索动作可能失足的后果。
REINFORCE
也写作:REINFORCE 蒙特卡洛策略梯度
以采样回报(可减动作无关基线)乘对数策略概率的梯度,估计策略梯度的算法家族。
做什么、为什么需要:在环境不可微时,用采样反馈训练随机策略。
例子:回合结束后,以 Gt−b(st) 加权每一步 log π(at|st) 的梯度。
On-policy
也写作:在策略 · 同策略
学习或评估的策略与产生相关经验的行为策略一致,或在算法允许的近似范围内一致。
做什么、为什么需要:它回答“谁产生数据”,并不回答“是否使用环境模型”。
例子:SARSA 用当前探索策略实际选出的下一动作更新;PPO 也需要按批次刷新数据。
Online RL
也写作:Online RL
训练期间持续与环境交互、收集新经验并改进策略。在线描述数据获取方式,不等于在策略。
做什么、为什么需要:和离线学习区分,同时单独检查 on/off-policy 轴。
例子:机器人边试边学,并把新旧经验混在回放池里训练。
Model-based RL
也写作:model-based · 模型式强化学习 · Model-based RL · 基于模型的强化学习
在决策或策略改进中使用环境转移、奖励等预测模型;模型可由经验学习,也可由已知规则给出。
做什么、为什么需要:识别是否通过预测后果来规划或生成想象经验。
例子:Dyna 用学到的转移模型产生额外训练经验;棋类搜索可使用已知规则。
相关概念(不一定是同义词):无模型强化学习 · 世界模型 · 蒙特卡洛树搜索
Model-free RL
也写作:model-free · Model-free RL · 无模型强化学习
策略或价值学习不依靠显式环境预测模型来规划或产生模型经验;仍可使用神经网络表示策略和价值。
做什么、为什么需要:避免把“无模型”误读成“没有神经网络”或“只允许在线学习”。
例子:DQN 学 Q 网络但不学状态转移预测器,所以通常归为无模型。
相关概念(不一定是同义词):基于模型的强化学习 · 行动者–评价者 · 离线强化学习
Dreamer
也写作:Dreamer 潜在想象学习
在学到的潜在动力学中展开想象轨迹,并训练行为策略及价值估计的一系列具体算法。
做什么、为什么需要:把一个世界模型算法家族与“世界模型”这一广义概念分开。
例子:用真实经验更新潜在模型,再在潜在空间训练 Actor 与 Critic。
Monte Carlo Tree Search
也写作:Monte Carlo Tree Search · 蒙特卡洛树搜索
反复选择、扩展、评估节点并回传结果的树搜索方法。叶子可用模拟 rollout 或价值网络评估。
做什么、为什么需要:理解搜索怎样在有限计算预算内聚焦有希望的分支。
例子:AlphaGo 在棋类规则中搜索候选落子;MCTS 本身不等于策略梯度。
Trajectory
也写作:trajectory · Trajectory
按时间排列的一段状态、动作及反馈序列;机器人文献也可能仅指随时间变化的位置或构型曲线。
做什么、为什么需要:先核对记录中包含哪些量,以及是否含真实执行反馈。
例子:RL 中 τ 可写成 s0,a0,r0,s1,…;运动规划中的轨迹还需要时间信息。
Rollout
也写作:rollout · 轨迹展开
按策略或给定动作序列逐步推进环境或模型,得到一段轨迹;可以是短片段,不一定直到终止。
做什么、为什么需要:区别真实采集、模型想象与树搜索中的模拟。
例子:从当前状态在模型中向前模拟 5 步,是一次模型 rollout,不一定是一整局。
Episode
也写作:episode · 回合
从初始条件开始,直到任务规定终止条件的一段交互;采集系统的时间截断不一定等于真实终止。
做什么、为什么需要:决定回报边界与是否保留下一状态自举值。
例子:机器人到达目标算终止;训练器每 200 步切片可能只是截断。
Importance sampling
也写作:importance sampling · Importance sampling
用目标分布与采样分布的概率比重加权样本,估计目标分布下的期望;要求必要的分布支持覆盖。
做什么、为什么需要:理解离策略修正,也注意大权重会放大方差。
例子:目标策略给某动作概率 0.4,行为策略为 0.2,则单步比率为 2。
Experience replay
也写作:replay buffer · 经验池 · Experience replay
把交互样本存入缓冲区并重复抽取训练,改善样本重用和时间相关性。
做什么、为什么需要:区分当前采集策略与回放样本中的历史策略。
例子:DQN 每走一步存转移,再从缓冲区随机抽一批旧转移。
Target network
也写作:Target network
使用更新较慢的参数副本来计算训练目标,缓解目标与预测同时快速变化的问题。
做什么、为什么需要:读 DQN、DDPG、TD3 时区分在线网络与目标网络的职责。
例子:Q 网络每步更新,目标 Q 网络定期复制或缓慢插值更新。
Exploration
也写作:exploration · Exploration
为获得信息或发现更高回报行为而尝试不确定的动作;随机性是手段之一,不是探索的完整定义。
做什么、为什么需要:区分获取新信息与利用已有最佳判断。
例子:尚不知道右侧走廊是否更短,智能体愿意花一次试走的代价。
Entropy
也写作:策略熵 · Entropy
衡量概率分布不确定性的量;在策略优化中常被用作鼓励动作分布保持多样性的正则项。
做什么、为什么需要:区分高熵、有效探索与任务表现,它们不必同步变好。
例子:两个动作各 0.5 的分布,比 0.99/0.01 更不确定。
Token
也写作:token · 词元
分词器处理的基本离散单位,可能是字、子词、字节片段或专用符号;不固定等于一个字或一个单词。
做什么、为什么需要:理解词表、序列长度、损失与推理成本的计量单位。
例子:一个英文单词可能被切成多个 token;中文字符也不保证一字一 token。
Embedding
也写作:embedding · 词嵌入 · 嵌入 · 嵌入表示
把离散对象或输入特征映射到向量表示;词嵌入通常可学习,不能把每个坐标直接当成人可读属性。
做什么、为什么需要:理解模型怎样把 token 或感知信息送入连续计算。
例子:词表中的 token ID 先查表得到向量,再进入 Transformer。
相关概念(不一定是同义词):词元 · Transformer 架构
Self-attention
也写作:self-attention · self attention · Self-attention
查询、键和值来自同一序列表示的注意力;允许不同位置按内容交换信息。
做什么、为什么需要:和从另一个序列读取信息的交叉注意力区分。
例子:处理一句话时,“它”的表示可读取同句较早出现的名词。
相关概念(不一定是同义词):注意力 · Transformer 架构
Causal language model
也写作:causal language model · autoregressive language model · Causal language model
按序列前缀预测下一个 token,以条件概率乘积表示整段文本概率。
做什么、为什么需要:理解因果掩码、训练目标与逐步生成之间的关系。
例子:已知“今天的天气”,模型预测后面可能出现的 token。
Masked language model
也写作:MLM · Masked language model
根据被遮蔽位置周围的可见上下文恢复 token 的训练目标;典型 BERT 可同时利用左右信息。
做什么、为什么需要:区分双向表示学习与左到右的生成目标。
例子:把“今天去学校”中的“学校”遮住,利用其余上下文恢复。
Cross-entropy
也写作:cross entropy · cross-entropy · Cross-entropy
用目标分布评价预测概率分布的损失;单一正确类别时等于该类别预测概率的负对数。
做什么、为什么需要:读语言模型损失时,理解为何低概率正确答案会受更大惩罚。
例子:正确 token 的预测概率从 0.1 提高到 0.5,负对数损失会下降。
Fine-tuning
也写作:fine-tuning · finetuning · Fine-tuning
在已训练模型基础上继续调整全部或部分参数,使其适应新的任务、数据或行为目标。
做什么、为什么需要:区分参数更新与只改变输入提示。
例子:LoRA 只训练低秩增量,也属于参数高效微调。
Supervised fine-tuning
也写作:监督微调 · Supervised fine-tuning
用输入及期望输出的配对数据,以监督损失继续训练已有模型。
做什么、为什么需要:区分学习示范答案与从偏好或奖励优化行为。
例子:给定指令与高质量回答,最小化回答 token 的预测损失。
In-context learning
也写作:ICL · in-context learning · In-context learning
通过当前输入中的说明和示例表现出任务适配,通常不为这次任务更新模型参数。
做什么、为什么需要:区分多给几个例子与实际微调模型权重。
例子:在提示中放两组中英翻译示例,再让模型完成第三组。
Context window
也写作:context window · 上下文长度 · Context window
一次推理中模型能够接收或处理的 token 范围;最大长度不保证每个位置的信息都被有效利用。
做什么、为什么需要:规划提示、文档分块和检索预算。
例子:文档放得下 100 页,也可能遗漏中间位置的一句关键约束。
Test-time scaling
也写作:test-time scaling · Test-time scaling · 测试时计算扩展
研究在给定模型与任务上,如何随推理预算增加而改善结果,以及收益何时饱和。
做什么、为什么需要:比较策略时同时报告正确率、生成量和总计算成本。
例子:更多候选只有配合有效选择器才可能改善最终答案,预算加倍不保证收益加倍。
Rotary Position Embedding
也写作:旋转位置编码 · Rotary Position Embedding
通过位置相关旋转变换查询和键,让点积注意力包含相对位置信息。
做什么、为什么需要:理解位置处理与长上下文外推的联系。
例子:相隔相同步数的位置会产生相应相对旋转;训练长度外的表现仍需验证。
Key–value cache
也写作:KV Cache · KV缓存 · 键值缓存 · Key–value cache
在自回归生成中缓存此前 token 的键和值,避免每生成一个新 token 都重新计算这些表示。
做什么、为什么需要:理解长上下文和并发请求的显存开销。
例子:生成第 101 个 token 时,复用前 100 个位置已有的 K、V。
Quantization
也写作:quantization · Quantization
用较低精度或较少离散数值表示权重、激活等量,以减少存储或计算开销。
做什么、为什么需要:核对量化对象、位数、标定方法与实际质量损失。
例子:把部分权重由 16 位表示换成 4 位,并检查目标硬件是否真正加速。
Knowledge distillation
也写作:distillation · Knowledge distillation
利用教师模型的输出或中间表示来训练学生模型;学生不一定更小,关键是训练信号来自教师。
做什么、为什么需要:区分模型压缩、能力迁移与直接复制教师参数。
例子:学生学习教师的类别概率,而非只学习一个硬标签。
Chain of Thought
也写作:chain-of-thought · 思维链 · Chain of Thought
通过中间推理步骤组织求解的一类提示或输出方式;可读的推理文本不保证忠实反映内部计算。
做什么、为什么需要:评价最终答案与推理过程时,分别检查正确性和可验证性。
例子:算两次购物总价时先列每次小计,再求总和。
Hallucination
也写作:Hallucination
生成了不受输入证据支持或与事实不符的内容;是否属于幻觉取决于任务对事实和依据的要求。
做什么、为什么需要:把语言流畅度与事实可靠性分开评估。
例子:模型生成了格式正确但实际不存在的论文引用。
相关概念(不一定是同义词):检索增强生成
Observation
也写作:Observation
智能体通过传感器或接口实际得到的信息;可能不完整或带噪声,不一定等于环境的完整状态。
做什么、为什么需要:识别部分可观测性与需要历史信息的原因。
例子:单帧相机看得到球的位置,却不直接给出其速度。
Action
也写作:Action
策略交给环境或控制接口的决策变量;机器人中可能是力矩、速度、目标位姿或一段动作。
做什么、为什么需要:读实验时先确认动作的单位、坐标系、频率与底层控制含义。
例子:输出末端目标位置并不等于直接输出每个电机的力矩。
Demonstration
也写作:Demonstration
展示任务如何完成的行为数据,可包含观测、动作、轨迹或结果;未必提供每一步最优动作。
做什么、为什么需要:核对示范来源、数据质量和部署时能否获得同样输入。
例子:遥操作录下相机画面、关节状态和操作命令,组成配对训练数据。
Behavior cloning
也写作:BC · behavior cloning · behaviour cloning · Behavioral cloning · Behavior cloning
用示范中的观测与动作配对做监督学习,直接拟合专家动作选择。
做什么、为什么需要:理解无需显式奖励学习的优点,以及闭环分布偏移的局限。
例子:用专家相机画面预测夹爪动作;自己偏离示范后可能遇到未见状态。
Covariate shift
也写作:covariate shift · Covariate shift
训练与部署时输入分布改变;在行为克隆中,策略误差会改变之后访问的状态,使问题连续累积。
做什么、为什么需要:区别单步预测误差与闭环执行退化。
例子:示范都居中行驶,模型偏到路边后看到的图像超出示范覆盖。
Inverse reinforcement learning
也写作:IRL · Inverse reinforcement learning
根据示范行为推断能够解释这些行为的奖励或代价;奖励一般不唯一,需要假设或正则化。
做什么、为什么需要:区分推断任务目标与直接复制动作。
例子:从绕开障碍的示范推断路径代价,再用该代价规划。
Domain randomization
也写作:domain randomization · Domain randomization
训练时随机改变视觉、动力学等环境参数,让模型接触一组变化的域,提高对未知条件的适应能力。
做什么、为什么需要:是缩小 sim-to-real 风险的一种方法,不能保证覆盖所有真实差异。
例子:随机化光照、纹理、摩擦或质量;真实条件超出训练范围时仍可能失败。
Diffusion Policy
也写作:扩散策略
通过条件去噪过程生成动作分布或动作段的策略表示;原始 Diffusion Policy 主要用示范训练。
做什么、为什么需要:表达多模态连续动作,并区分去噪迭代与机器人执行时间。
例子:从动作噪声生成一段抓取动作,执行前几步后用新观测重新生成。
Action chunking
也写作:action chunk · action chunking · 动作段 · Action chunking
一次预测一段连续动作,而不是只预测下一步;实际执行的长度可以短于预测长度。
做什么、为什么需要:理解动作连贯性、推理延迟与闭环反馈速度之间的取舍。
例子:模型预测未来 16 步,只执行前 4 步,再重新观测和预测。
Embodiment
也写作:embodiment · 具身形态 · Embodiment
机器人身体、传感器和动作接口等物理条件的组合;影响哪些信息可见、哪些动作可执行。
做什么、为什么需要:比较跨机器人数据时,核对不同关节、末端和控制接口。
例子:单臂夹爪与双臂灵巧手可共享任务语言,却不能直接共享全部动作维度。
Proprioception
也写作:proprioception · 本体状态 · Proprioception
关于机器人自身关节、速度、姿态或力等内部状态的感知信息。
做什么、为什么需要:区分自身状态观测与相机看到的外部环境。
例子:编码器读取关节角,IMU 提供惯性测量;两者仍可能带噪声。
Teleoperation
也写作:Teleoperation
人通过远程控制接口操纵机器人,可用于执行任务或收集示范。
做什么、为什么需要:读数据集时,判断人的控制方式与记录动作之间的关系。
例子:操作者移动主机械臂,机器人从臂跟随,系统记录同步示范。
Coordinate frame
也写作:Coordinate frame
规定位置与方向数值所参照的原点和坐标轴;同一物理对象在不同坐标系中有不同数值。
做什么、为什么需要:任何位姿、速度或力都先确认表达在哪个坐标系。
例子:杯子在相机坐标系向前 0.5 米,转换到机械臂基座坐标后数值会改变。
Pose
也写作:Pose
物体相对于指定坐标系的位置与朝向;只有位置不足以完整描述三维抓取目标。
做什么、为什么需要:区分平移、旋转及其组合,避免混用坐标约定。
例子:夹爪到达杯子位置后,还需要正确朝向才能抓住杯柄。
Rigid transform
也写作:刚性变换 · rigid transformation · Rigid transform
由旋转和平移组成、保持点间距离的坐标变换;常用齐次矩阵表示。
做什么、为什么需要:把感知、机器人和世界中的点放到一致参考系。
例子:相机点先乘旋转矩阵,再加平移,得到基座坐标中的点。
Forward kinematics
也写作:正向运动学 · Forward kinematics
根据关节构型与几何模型求连杆或末端位姿,不直接求产生运动需要的力。
做什么、为什么需要:建立关节空间与任务空间之间的几何关系。
例子:已知肩、肘角度和连杆长度,计算夹爪的位置与朝向。
Jacobian
也写作:Jacobian · 雅可比
在当前构型附近,把关节速度映射到末端速度的局部线性关系;具体形式取决于坐标和速度表示。
做什么、为什么需要:理解微分逆运动学、奇异性及力到关节力矩的映射。
例子:ẋ=J(q)q̇;接近奇异构型时,小末端速度也可能要求很大关节速度。
相关概念(不一定是同义词):逆运动学 · 正运动学 · 动力学
Dynamics
也写作:Dynamics
描述力、力矩、质量惯性与运动变化的关系;不同于只描述位置与姿态关系的运动学。
做什么、为什么需要:判断计划是否满足真实执行器、接触和惯性约束。
例子:同样一条关节轨迹,搬重物时所需力矩可能更大。
Configuration space
也写作:C-space · 配置空间 · Configuration space
以能完整描述机器人几何配置的变量为坐标的空间;机器人与障碍碰撞的配置构成障碍区域。
做什么、为什么需要:把多连杆避障转换成构型点的搜索问题。
例子:两关节机械臂的一个配置是 (q1,q2),不是夹爪的二维位置。
Motion planning
也写作:Motion planning
在约束下寻找从起点到目标的可行路径或轨迹;有无时间、速度与动力学约束取决于问题设定。
做什么、为什么需要:区分几何避障、时间参数化与底层反馈控制。
例子:找到绕过桌角的无碰路径后,还要决定执行速度并跟踪。
State estimation
也写作:State estimation
根据带噪观测、动作与模型推断系统不可直接完整测得的状态。
做什么、为什么需要:先看状态有哪些量,再看传感器能提供哪些约束。
例子:融合轮速计和相机来估计机器人位置与速度。
Particle filter
也写作:particle filter · Particle filter
用带权样本近似状态分布,并通过预测、观测加权与重采样递推估计。
做什么、为什么需要:在非线性或多峰定位问题中保留多种可能状态。
例子:相似走廊导致两个可能位置时,用两群粒子保留两种假设。
Factor graph
也写作:factor graph · Factor graph
用变量节点和约束因子描述联合概率或优化问题的稀疏依赖结构。
做什么、为什么需要:把定位建图中的状态、测量与代价项对应起来。
例子:各时刻位姿是变量,里程计和回环测量产生连接它们的因子。
Loop closure
也写作:loop closure · Loop closure
识别当前地点与过去访问地点的关联,并加入相应约束以减少累积漂移。
做什么、为什么需要:将地点识别与几何验证分开;错误回环会破坏地图。
例子:回到同一房间后,先核对视觉和几何一致性,再约束两次位姿。
Observability
也写作:observability · Observability
由给定输入、模型和观测能否区分内部状态的性质;不是换一个滤波器就能凭空增加的信息。
做什么、为什么需要:判断状态估计问题是否从根本上缺少约束。
例子:若测量和运动从不提供某一方向的信息,调小噪声协方差也无法确定它。
Feedback control
也写作:Feedback control
根据实际测量与目标的偏差不断调整控制输入,使系统跟踪目标或维持所需行为。
做什么、为什么需要:区分开环播放动作、重新规划与底层闭环跟踪。
例子:手臂受扰偏离目标后,控制器利用新误差调整电机命令。
Impedance control
也写作:Impedance control
通过控制塑造运动偏差与交互力之间的动态关系,常用质量、阻尼、刚度类比描述。
做什么、为什么需要:理解机器人接触环境时为何需要适当柔顺性。
例子:插孔时允许横向小幅让步并保留阻尼;并非刚度越低就一定越安全。
Model Predictive Control
也写作:模型预测控制 · Model Predictive Control
根据模型在有限预测时域内优化控制序列,只执行前一部分,再根据新状态滚动求解。
做什么、为什么需要:区分显式在线规划与已训练策略的一次前向输出。
例子:四足机器人预测未来支撑力,执行当前控制后重新估计并规划。
强化学习 · MDP 与价值更新
当前状态 / 下一状态
类型/单位:状态变量
约定与边界:观测不一定是完整状态;s′ 不表示对 s 求导。
强化学习 · 策略与交互轨迹
在第 t 步选择的动作
类型/单位:动作变量
约定与边界:连续控制时 a 可以是向量;与机器人执行接口对应。
强化学习 · 随机策略
给定状态时的动作概率分布
类型/单位:条件概率/密度
约定与边界:连续动作中的 π 通常是概率密度;一次具体动作由分布采样。
强化学习 · DPG / DDPG / TD3
给定状态直接输出动作的确定性策略
类型/单位:向量值函数
约定与边界:μ 在别的公式也可能是均值或行为分布;只按当前语境解读。
强化学习 · 状态价值
从 s 开始按 π 行动的期望回报
类型/单位:标量函数
约定与边界:V 对接下来按策略选择的动作取平均;不同于指定动作后的 Q。
强化学习 · 动作价值
在 s 先做 a,随后按 π 行动的期望回报
类型/单位:标量函数
约定与边界:Q* 表示最优后续行为的价值;这里的 Q 不是注意力查询或噪声协方差。
强化学习 · 策略梯度与优势估计
相对该状态平均水平的动作优势 Qπ−Vπ
类型/单位:标量函数
约定与边界:估计优势 Â 不等于真实优势;可以来自 GAE 或组内奖励比较。
强化学习 · 交互与 Bellman 目标
当前一步的奖励反馈
类型/单位:标量
约定与边界:奖励的时间下标约定可能是 rₜ 或 rₜ₊₁;以本文定义为准。
强化学习 · 蒙特卡洛与策略梯度
从当前时刻开始累计的后续回报
类型/单位:标量随机变量
约定与边界:是多个未来奖励的累计,不是即时奖励,也不是 V 的预测值。
强化学习 · 折扣回报与 TD
未来奖励的折扣因子
类型/单位:标量超参数
约定与边界:γ=1 需要同时考虑有限回合或相应收敛条件。
强化学习 · 时序差分
目标与当前价值预测之间的 TD 误差
类型/单位:标量
约定与边界:常见一步形式为 r+γV(s′)−V(s),真实终止时不再自举。
强化学习 · 轨迹分布与策略梯度
按时间排列的一段状态、动作与反馈轨迹
类型/单位:序列/随机变量
约定与边界:不是 DMP 的时间尺度;轨迹可以是片段,不必包含完整回合。
强化学习 · 参数化模型
策略、价值或模型的可学习参数
类型/单位:参数向量
约定与边界:哪个字母对应哪个网络由论文定义;两套参数也可能共享一部分。
强化学习 · 表格 TD 与梯度更新
优化更新的步长(在对应更新式中)
类型/单位:标量超参数
约定与边界:SAC 中 α 常改指熵温度,不能跨文章沿用步长解释。
文章语境:01-actor-critic · 02-td-lambda · 04-q-learning · 05-reinforce · 06-sarsa · 11-double-q
强化学习 · SAC 最大熵目标
控制奖励与策略熵相对权重的温度
类型/单位:非负标量
约定与边界:这是熵系数,不是这里默认的梯度学习率;部分方法自动调整它。
文章语境:30-sac
强化学习 · 离策略重要性修正
目标策略与行为策略对同一动作的概率比
类型/单位:无量纲标量
约定与边界:分母必须对目标所需动作有支持;比率或连乘可能带来高方差。
强化学习 · PPO 裁剪目标
当前策略概率除以采样时旧策略概率
类型/单位:无量纲标量
约定与边界:这里 r 是概率比,不是环境奖励;看 r 的参数与分式定义。
文章语境:27-ppo
强化学习 · TD(λ) 与 GAE
控制多步 TD 残差加权衰减的参数
类型/单位:标量超参数
约定与边界:它调节估计的偏差与方差;并不是另一个奖励折扣的通用别名。
文章语境:02-td-lambda · 15-gae
强化学习 · 经验回放与离线学习
经验数据集或训练批次
类型/单位:样本集合
约定与边界:集合来源、是否固定以及能否采集新数据,需由训练设置判断。
强化学习 · MCTS / PUCT
搜索树中状态–动作边的访问次数
类型/单位:非负整数
约定与边界:访问次数用于搜索预算分配;不是该动作的真实概率或 Q 值。
文章语境:21-alphago · 41-muzero
大语言模型 · 缩放点积注意力
注意力中的查询矩阵
类型/单位:矩阵
约定与边界:由输入经查询投影得到;不是 RL 的动作价值。
大语言模型 · 缩放点积注意力
供查询匹配的键矩阵
类型/单位:矩阵
约定与边界:与 Q 的点积形成注意力分数;不是 Kalman 增益。
大语言模型 · 缩放点积注意力
被注意力权重加权读取的值矩阵
类型/单位:矩阵
约定与边界:这里的 Value 是被读取的表示,不是强化学习状态价值。
大语言模型 · 缩放点积注意力
每个注意力头的键/查询维度
类型/单位:正整数
约定与边界:分母 √dₖ 控制点积的尺度;不一定等于模型隐藏维度。
大语言模型 · Transformer 注意力
加入注意力分数中的掩码
类型/单位:矩阵
约定与边界:因果掩码阻止读取未来位置;掩码值的具体形式依实现。
文章语境:015-transformer · 019-transformer-xl · 033-longformer · 038-bigbird
大语言模型 · 加性注意力
输出位置 i 读取源位置 j 的归一化权重
类型/单位:标量权重
约定与边界:该权重不是学习率;权重可视化不自动构成因果解释。
文章语境:007-attention
大语言模型 · 自回归语言建模
给定此前 token 时预测下一 token 的条件概率
类型/单位:条件概率
约定与边界:训练常最大化正确 token 的概率;自由生成时此前 token 来自模型。
大语言模型 · 模型训练
当前任务定义的训练损失
类型/单位:标量目标
约定与边界:交叉熵、蒸馏与偏好目标的 L 含义不同;先读本节具体公式。
大语言模型 · 语言建模与偏好优化
模型的可学习参数
类型/单位:参数向量
约定与边界:θref、θold 等下标表示参考或旧参数,不能忽略下标。
大语言模型 · LoRA
以两个低秩矩阵的乘积表示权重增量
类型/单位:矩阵分解
约定与边界:r 是适配秩,A、B 的尺寸依原权重方向约定;不是训练全部 W。
大语言模型 · DPO 的 KL 正则化推导与损失
控制策略相对参考模型偏离程度的系数
类型/单位:正标量超参数
约定与边界:β 不是整个网站统一的学习率或采样温度;解释依当前目标约定。
文章语境:075-dpo
大语言模型 · 成对偏好训练
同一输入下偏好更高 / 更低的回答
类型/单位:输出序列对
约定与边界:胜出回答只表示在这对样本中更被偏好,不保证绝对正确。
文章语境:075-dpo
大语言模型 · 偏好与强化学习对齐
当前策略相对参考策略的分布差异
类型/单位:非负标量
约定与边界:KL 有方向性;逐 token 或整段序列的估计形式需要核对。
文章语境:054-instructgpt · 065-constitutional · 075-dpo · 080-rlaif · 086-deepseekmath · 094-r1
机器人学习 · 随机策略
给定状态时的动作概率分布
类型/单位:条件概率/密度
约定与边界:连续动作中的 π 通常是概率密度;一次具体动作由分布采样。
机器人学习 · 动作价值
在 s 先做 a,随后按 π 行动的期望回报
类型/单位:标量函数
约定与边界:Q* 表示最优后续行为的价值;这里的 Q 不是注意力查询或噪声协方差。
机器人学习 · 状态价值
从 s 开始按 π 行动的期望回报
类型/单位:标量函数
约定与边界:V 对接下来按策略选择的动作取平均;不同于指定动作后的 Q。
机器人学习 · 交互与 Bellman 目标
当前一步的奖励反馈
类型/单位:标量
约定与边界:奖励的时间下标约定可能是 rₜ 或 rₜ₊₁;以本文定义为准。
机器人学习 · 蒙特卡洛与策略梯度
从当前时刻开始累计的后续回报
类型/单位:标量随机变量
约定与边界:是多个未来奖励的累计,不是即时奖励,也不是 V 的预测值。
机器人学习 · 视觉运动策略
当前观测或一段观测历史
类型/单位:向量/图像/序列
约定与边界:观测可以包含图像和本体状态;大写 O 有时特指堆叠历史。
机器人学习 · 机器人动作接口
当前动作或控制命令
类型/单位:向量
约定与边界:先核对单位、坐标和频率;目标位姿与关节力矩不是同一种动作。
机器人学习 · 动作分块
从当前时刻起的一段未来动作
类型/单位:时间序列/张量
约定与边界:这里 A 表示动作段,不是强化学习的优势函数。
文章语境:061-diffusion-policy · 062-act · 075-dp3 · 080-octo · 085-rdt · 087-pi0 · 089-fast · 091-openvla-oft · 093-pi05 · 095-smolvla
机器人学习 · DMP 动力系统
调整运动快慢的时间尺度
类型/单位:正标量
约定与边界:τ 在本篇不是采样轨迹;与其他方程中的时间缩放约定需一起看。
文章语境:001-dmp
机器人学习 · DMP 离散运动
目标位置 / 当前期望位置
类型/单位:标量或向量
约定与边界:y 是生成器的期望轨迹,真实机器人是否跟上还取决于底层控制。
文章语境:001-dmp
机器人学习 · DMP 轨迹形状
形状项 / 局部基函数 / 学习权重
类型/单位:函数/参数
约定与边界:2002 年原文和后来的常见 DMP 方程并不完全相同;以本篇版本为准。
文章语境:001-dmp
机器人学习 · 轨迹分布与奖励学习
示范或策略产生的整段轨迹
类型/单位:时间序列
约定与边界:只在轨迹概率/回报语境下使用;DMP τ 与流匹配 τ 是不同量。
文章语境:002-apprenticeship · 003-maxent-irl · 004-power · 005-pi2 · 012-guided-cost · 015-gail
机器人学习 · Diffusion Policy
机器人执行时刻 / 去噪迭代等级
类型/单位:两个不同的时间索引
约定与边界:k 改变同一动作段的噪声等级,不表示机器人已经执行一步。
文章语境:061-diffusion-policy · 075-dp3 · 085-rdt
机器人学习 · 动作扩散训练
加入的噪声 / 网络预测的噪声
类型/单位:动作维度的张量
约定与边界:训练噪声预测误差不等于直接对所有专家动作取平均。
文章语境:061-diffusion-policy · 075-dp3 · 085-rdt
机器人学习 · Diffusion Policy 滚动执行
观测历史长度 / 预测动作长度 / 实际执行长度
类型/单位:正整数
约定与边界:通常执行长度不大于预测长度;更长执行片段会推迟反馈修正。
文章语境:061-diffusion-policy
机器人学习 · π₀ 流匹配
连接噪声与动作分布的插值时间
类型/单位:通常在 [0,1] 的标量
约定与边界:本篇区分官方实现 u 与论文 τ 的反向约定;不是 DMP 时间尺度或机器人执行时刻。
文章语境:087-pi0
机器人学习 · π₀ 流匹配
把插值样本沿生成路径移动的预测向量场
类型/单位:与动作段同维度的向量场
约定与边界:这里 velocity 描述生成路径上的变化,不直接等于机器人真实关节速度。
文章语境:087-pi0
机器人学习 · 模仿学习
训练数据集 / 专家示范集
类型/单位:样本集合
约定与边界:记录里是否有状态、图像、动作和成功标签,依具体数据集而定。
机器人经典 · 机器人运动学与动力学
关节构型 / 关节速度
类型/单位:向量
约定与边界:q 不是概率;旋转关节与移动关节的单位不同。
机器人经典 · 微分运动学与力映射
当前构型处的速度雅可比矩阵
类型/单位:矩阵
约定与边界:J 不是 RL 的期望回报目标;行列维度由任务坐标与关节数决定。
机器人经典 · 冗余机械臂的局部速度求解
雅可比的 Moore–Penrose 伪逆
类型/单位:矩阵
约定与边界:不是一般意义上的全局非线性逆运动学;奇异附近还要考虑阻尼。
文章语境:004-resolved-rate · 012-manipulability · 016-damped-ik · 050-task-priority
机器人经典 · 三维坐标变换
旋转与平移组成的齐次刚体变换
类型/单位:4×4 矩阵
约定与边界:R 在几何语境是旋转矩阵,不是 Kalman 测量噪声协方差。
机器人经典 · Kalman 预测与修正
测量融合前的预测 / 融合后的状态估计
类型/单位:状态向量
约定与边界:上标 −、+ 是更新阶段,不是正负位置;不同书也用 k|k−1 与 k|k。
文章语境:002-kalman
机器人经典 · Kalman 滤波
状态估计误差的协方差
类型/单位:对称半正定矩阵
约定与边界:小 P 表示模型认为自己不确定性小;统计假设错误时仍可能过度自信。
文章语境:002-kalman
机器人经典 · Kalman 状态预测
过程噪声的协方差
类型/单位:对称半正定矩阵
约定与边界:它描述未建模扰动的不确定性,不是 RL 动作价值或 MPC 代价权重。
文章语境:002-kalman
机器人经典 · Kalman 测量融合
测量噪声的协方差
类型/单位:对称半正定矩阵
约定与边界:这里 R 不是旋转矩阵;设小只代表更相信测量,不让传感器本身更准。
文章语境:002-kalman
机器人经典 · Kalman 修正
将测量创新映射为状态修正的 Kalman 增益
类型/单位:矩阵
约定与边界:增益由预测不确定性与测量模型共同决定,不是传感器固定权重。
文章语境:002-kalman
机器人经典 · Kalman 修正与模型检查
实际测量与预测测量的差(创新)
类型/单位:测量空间向量
约定与边界:创新长期有偏或有未解释相关性,可能提示模型、同步或噪声设定有误。
文章语境:002-kalman
机器人经典 · 线性 Kalman 模型
状态转移矩阵 / 测量矩阵
类型/单位:矩阵
约定与边界:F 把状态推到下一时刻,H 把状态映射到可测量量。
文章语境:002-kalman
机器人经典 · 机器人动力学与阻抗控制
施加于关节的力矩或广义力
类型/单位:向量
约定与边界:不是 RL 轨迹,也不是 DMP 时间尺度;转动关节通常用 N·m。
文章语境:005-newton-euler · 010-featherstone · 013-impedance · 018-operational-space · 019-adaptive-control · 080-wholebody-qp · 094-cheetah-mpc
机器人经典 · 阻抗控制
期望刚度 / 阻尼
类型/单位:标量或矩阵
约定与边界:这里 K 不是 Kalman 增益;参数含义依控制坐标和方程形式而定。
文章语境:013-impedance
机器人经典 · A* 图搜索
已走代价加剩余代价的启发式估计
类型/单位:标量代价
约定与边界:h 可接受不等于任何闭集实现都自动最优;还需核对一致性或重新打开节点的处理。
文章语境:003-astar
机器人经典 · 模型预测控制
预测状态 / 待优化控制输入
类型/单位:向量
约定与边界:Cheetah MPC 的 u 是足端接触力,不能自动当成关节力矩。
文章语境:094-cheetah-mpc
机器人经典 · MPC 二次代价
状态跟踪误差 / 控制输入的代价权重
类型/单位:半正定/正定权重矩阵
约定与边界:它们在本篇是设计者选择的优化权重,不是 Kalman 过程/测量噪声。
文章语境:094-cheetah-mpc
机器人经典 · 接触与摩擦约束
摩擦系数
类型/单位:无量纲非负标量
约定与边界:与确定性策略 μθ 无关;摩擦锥线性近似还要核对保守程度。
文章语境:030-grasp-quality · 034-force-closure · 036-impulse-contact · 072-contact-implicit · 075-contact-trajopt · 080-wholebody-qp · 094-cheetah-mpc
机器人经典 · 因子图与非线性最小二乘
第 i 个约束的残差 / 测量不确定性
类型/单位:向量 / 协方差矩阵
约定与边界:残差 r 不是奖励;白化或信息矩阵影响不同测量的权重。
文章语境:053-graphslam · 057-isam · 063-g2o · 068-isam2 · 083-imu-preintegration · 092-vinsmono · 097-liosam
机器人经典 · 占据栅格
结合观测后第 i 格被占据的概率
类型/单位:[0,1] 的标量
约定与边界:未知、空闲与占据应区分;概率阈值是后续决策约定。
文章语境:025-occupancy · 074-octomap