教材
Deep Learning
系统介绍深度网络的数学基础、优化与建模方法。
Ian Goodfellow, Yoshua Bengio, Aaron Courville · 2016 · MIT Press
阅读前提
教材中的引用位置
- A00 · 第 1 章 监督学习任务、样本与标签
- A00 · 第 2 章 训练、验证、测试与数据泄漏
- A00 · 第 3 章 损失函数、风险与评估
- A00 · 第 4 章 分类、回归指标与基线
- A00 · 第 5 章 分布偏移、置信区间与不确定性
- A00 · 第 6 章 机器学习问题与评估综合复习
- A01 · 第 1 章 线性回归、最小二乘与正规方程
- A01 · 第 2 章 Logistic 回归与概率分类
- A01 · 第 3 章 过拟合、泛化与模型选择
- A01 · 第 4 章 正则化、偏差与方差
- A01 · 第 5 章 经验风险、容量与一致收敛
- A01 · 第 6 章 线性模型与统计学习综合复习
- A02 · 第 1 章 特征映射、正定核与再生核空间
- A02 · 第 2 章 最大间隔与支持向量机
- A02 · 第 3 章 决策树、划分准则与剪枝
- A02 · 第 4 章 随机森林与袋装集成
- A02 · 第 5 章 AdaBoost、梯度提升与残差拟合
- A02 · 第 6 章 核方法、树模型与集成学习综合复习
- A03 · 第 1 章 聚类目标、K 均值与密度方法
- A03 · 第 2 章 主成分分析与流形降维
- A03 · 第 3 章 贝叶斯网络与 Markov 随机场
- A03 · 第 4 章 变量消元、消息传递与精确推断
- A03 · 第 5 章 EM 算法与变分推断
- A03 · 第 6 章 无监督学习与概率图模型综合复习
- A04 · 第 1 章 感知机与多层感知器
- A04 · 第 2 章 激活函数与非线性表示
- A04 · 第 3 章 计算图、链式法则与局部导数
- A04 · 第 4 章 反向传播与反向模式自动微分
- A04 · 第 5 章 参数初始化与梯度传播
- A04 · 第 6 章 神经网络与反向传播综合复习
- A05 · 第 1 章 随机梯度、动量与自适应方法
- A05 · 第 2 章 学习率调度与二阶近似
- A05 · 第 3 章 归一化方法与尺度控制
- A05 · 第 4 章 正则化、数据增强与早停
- A05 · 第 5 章 混合精度、分布式训练与检查点
- A05 · 第 6 章 调试、复现实验与工程方法综合复习
- A06 · 第 1 章 离散卷积、感受野与参数共享
- A06 · 第 2 章 卷积网络架构与残差连接
- A06 · 第 3 章 目标检测与多尺度特征
- A06 · 第 4 章 语义分割、实例分割与密集预测
- A06 · 第 6 章 几何、数据偏差与计算机视觉综合复习
- A07 · 第 1 章 循环网络、门控单元与状态传播
- A07 · 第 2 章 序列损失、教师强制与解码
- A07 · 第 3 章 缩放点积注意力与掩码
- A07 · 第 4 章 多头注意力与位置表示
- A07 · 第 5 章 编码器、解码器与 Transformer 架构
- A07 · 第 6 章 长序列、效率与 Transformer 综合复习
- A08 · 第 3 章 对比学习、负样本与信息瓶颈
- A08 · 第 4 章 掩码预测与上下文建模
- A09 · 第 1 章 自回归生成与序列似然
- A09 · 第 2 章 变分自编码器与证据下界
- A09 · 第 3 章 生成对抗网络与散度最小化
- A09 · 第 4 章 正规化流与可逆变换
- A09 · 第 5 章 得分匹配、扩散过程与反向采样
- A09 · 第 6 章 生成质量、覆盖与生成模型综合复习
- A11 · 第 1 章 图、图信号与节点表示
- A12 · 第 1 章 语言建模、tokenization 与规模规律
- A12 · 第 2 章 指令微调、偏好优化与上下文学习
- A12 · 第 3 章 视觉语言对齐与多模态生成
- A12 · 第 4 章 检索增强、引用与事实落地
- A13 · 第 1 章 特征归因、显著性与反事实
- A13 · 第 2 章 表示探测与机制可解释性
- A13 · 第 3 章 校准、分布外检测与选择性预测
- A13 · 第 4 章 鲁棒性、对抗攻击与防御评估
- M11 · 第 3 章 一阶优化与梯度下降