A10 / advanced

强化学习

强化学习围绕第一编 决策过程与价值、第二编 控制与策略、第三编 高级强化学习与综合复习建立连续章节顺序。

结构
3 编 · 6
适合读者
适合完成相关本科基础课程、需要进入高级理论与计算方法的读者。
开始本册

BEFORE READING

先修与记号

本册对象

从 Markov 决策过程进入价值方法、策略优化、模型学习和离线强化学习。

先修教材

符号约定

  • 本册在首次使用时定义强化学习专用符号,并区分标量、向量、算子与单位。
  • 同一符号出现多种约定时明确命名空间、假设和适用章节。

CONTENTS

完整目录

PART 01

第一编 决策过程与价值

第一编 决策过程与价值组织Markov 决策过程与 Bellman 方程、动态规划、Monte Carlo 与时序差分,形成连续的学习单元。

  1. 01

    Markov 决策过程与 Bellman 方程

    形式化状态、动作、转移、奖励和折扣回报,推导策略价值、最优价值与 Bellman 方程。

    阅读本章
  2. 02

    动态规划、Monte Carlo 与时序差分

    比较模型已知时的动态规划、完整回报的 Monte Carlo 与自举的时序差分,并分析偏差—方差。

    阅读本章
PART 02

第二编 控制与策略

第二编 控制与策略组织Q-learning、探索与函数逼近、策略梯度、actor–critic 与优势估计,形成连续的学习单元。

  1. 03

    Q-learning、探索与函数逼近

    推导离策略 Q-learning 更新,比较探索策略与经验回放,并解释函数逼近下的不稳定来源。

    阅读本章
  2. 04

    策略梯度、actor–critic 与优势估计

    从对数导数技巧推导策略梯度,用基线和优势降低方差,并组装 actor–critic 更新。

    阅读本章
PART 03

第三编 高级强化学习与综合复习

第三编 高级强化学习与综合复习组织基于模型、离线与多智能体强化学习、稳定性、评估与强化学习综合复习,形成连续的学习单元。

  1. 05

    基于模型、离线与多智能体强化学习

    比较学习环境模型、固定数据集策略优化与多智能体交互,重点分析模型偏差、分布外动作和非平稳性。

    阅读本章
  2. 06

    稳定性、评估与强化学习综合复习

    串联 MDP、价值估计、Q-learning、策略梯度和离线方法,以多种子、置信区间和离线评估检查结论。

    阅读本章

综合练习

  • 每章安排定义辨析、推导计算和结果核验练习。
  • 本册末章安排跨 Part 综合题,并保留可复算的解题检查点。

相关教材