A01 / undergraduate

线性模型与统计学习

线性模型与统计学习围绕第一编 回归与分类、第二编 复杂度与泛化、第三编 统计学习理论与综合复习建立连续章节顺序。

结构
3 编 · 6
适合读者
适合已具备基础代数与函数知识、希望完成本科层次系统学习的读者。
开始本册

BEFORE READING

先修与记号

本册对象

从最小二乘和广义线性模型进入正则化、泛化与统计学习理论。

先修教材

符号约定

  • 本册在首次使用时定义线性模型与统计学习专用符号,并区分标量、向量、算子与单位。
  • 同一符号出现多种约定时明确命名空间、假设和适用章节。

CONTENTS

完整目录

PART 01

第一编 回归与分类

第一编 回归与分类组织线性回归、最小二乘与正规方程、Logistic 回归与概率分类,形成连续的学习单元。

  1. 01

    线性回归、最小二乘与正规方程

    本章研究线性回归、最小二乘与正规方程。内容依次处理线性模型、设计矩阵与残差、最小二乘正规方程与投影解释、可识别性、共线性与误差诊断。

    阅读本章
  2. 02

    Logistic 回归与概率分类

    本章研究Logistic 回归与概率分类。内容依次处理对数几率、Sigmoid 与概率分类、交叉熵似然与梯度计算、决策阈值、校准与线性边界限制。

    阅读本章
PART 02

第二编 复杂度与泛化

第二编 复杂度与泛化组织过拟合、泛化与模型选择、正则化、偏差与方差,形成连续的学习单元。

  1. 03

    过拟合、泛化与模型选择

    本章研究过拟合、泛化与模型选择。内容依次处理训练误差、泛化误差与数据划分、模型容量、偏差方差与验证曲线、数据泄漏、分布偏移与选择偏差。

    阅读本章
  2. 04

    正则化、偏差与方差

    本章研究正则化、偏差与方差。内容依次处理参数惩罚与约束优化的对应、L1、L2 正则化与解的几何、正则强度选择、偏差方差与失效情形。

    阅读本章
PART 03

第三编 统计学习理论与综合复习

第三编 统计学习理论与综合复习组织经验风险、容量与一致收敛、线性模型与统计学习综合复习,形成连续的学习单元。

  1. 05

    经验风险、容量与一致收敛

    从经验风险与真实风险差异进入假设类容量、集中界和一致收敛,解释结构风险最小化及泛化界的条件与局限。

    阅读本章
  2. 06

    线性模型与统计学习综合复习

    联合最小二乘、概率分类、正则化、偏差方差和容量控制分析线性学习流程,并用独立评估区分拟合与泛化。

    阅读本章

综合练习

  • 每章安排定义辨析、推导计算和结果核验练习。
  • 本册末章安排跨 Part 综合题,并保留可复算的解题检查点。

相关教材