专题路线
把线性代数、多变量微分、概率矩和优化连接为机器学习的统一计算语言。
把一个批量线性预测写成矩阵乘法，并标出每个张量的形状。
从平方损失推导一个参数更新，并说明步长过大时的行为。
难度 2/5
用模型 y=b+wx 拟合三个点 (0,1)、(1,3)、(2,5)。写出设计矩阵、最小二乘参数和残差，并用正规方程核验。
把每个样本写成一行 [1,x]；这三个点恰好共线，先观察斜率再检查 Xᵀr。
X=[[1,0],[1,1],[1,2]]，y=[1,3,5]ᵀ。直线为 y=1+2x，所以参数 (b,w)=(1,2)，预测恰为 [1,3,5]ᵀ，残差 r=y-Xβ=0。
结果核验：计算 Xβ 得 [1,3,5]ᵀ；因此 Xᵀr=[0,0]ᵀ，正规方程 XᵀXβ=Xᵀy 成立，残差平方和为 0。
难度 3/5
在参数 θ=2、学习率 η=0.1 时，四个样本给出的梯度为 1、3、-1、1。求样本梯度均值与总体方差，比较用均值更新一次和随机选一个梯度更新的结果。
先求四个数的算术平均；总体方差的分母取 4。每次更新都使用 θ₊=θ-ηg。
梯度均值为 (1+3-1+1)/4=1，总体方差为 [0²+2²+(-2)²+0²]/4=2。均值更新得到 θ₊=1.9；四种随机单样本更新分别为 1.9、1.7、2.1、1.9，平均仍为 1.9，但单次更新有波动。
结果核验：四个随机更新的均值 (1.9+1.7+2.1+1.9)/4=1.9，恰与均值梯度更新相同；梯度平方偏差之和为 8，除以 4 得 2。
