演示 / 强化学习

强化学习演示

价值怎样绕过墙传回来,策略怎样在连续动力学里站住,以及为什么 on-policy 会躲开悬崖。

Q-learning 迷宫

必须绕行的走廊。颜色是 V,三角是 Q(s,a)。

价值迭代

从终点把贝尔曼最优备份扩散到整张图。

REINFORCE 倒立摆

用回合回报更新左右推力的概率。

悬崖:SARSA vs Q

Q-learning 贴边抄近;SARSA 把探索风险算进去,绕远走。

Dyna-Q:真实经验与模型规划

真实交互更新一次,再用学到的模型重放经验。

DQN:经验回放与目标网络

真实小型神经网络如何从回放样本学习动作价值。

PPO:裁剪代理目标

比较正负优势下的概率比与裁剪目标,理解更新激励。