演示 / 强化学习
价值怎样绕过墙传回来,策略怎样在连续动力学里站住,以及为什么 on-policy 会躲开悬崖。
必须绕行的走廊。颜色是 V,三角是 Q(s,a)。
从终点把贝尔曼最优备份扩散到整张图。
用回合回报更新左右推力的概率。
Q-learning 贴边抄近;SARSA 把探索风险算进去,绕远走。
真实交互更新一次,再用学到的模型重放经验。
真实小型神经网络如何从回放样本学习动作价值。
比较正负优势下的概率比与裁剪目标,理解更新激励。