本课详解反向传播算法。通过前向传播存储激活值,反向传播利用链式法则复用中间导数,高效计算损失对权重和偏置的梯度。该过程将复杂微积分转化为矩阵乘法,是训练深度模型的核心。
第12课完整讲义:zhuanlan.zhihu.com
00:00 开篇语


00:14 第6章回顾


02:13 三次隐藏网络的前向计算

03:38 总损失和参数更新


05:07 观察1 和 观察2



09:07 玩具示例


10:10 玩具示例中的前向传播

10:43 玩具示例中的反向传播1


12:11 玩具示例中的反向传播2

13:32 向量矩阵表示的前向传播

14:26 向量矩阵表示的反向传播 1


17:52 向量矩阵表示的反向传播 2


20:15 反向传播算法总结

21:55 自动微分、张量和无环计算图

24:16 结束语

