《理解深度学习》第12课-深度神经网络的反向传播算法理解深度学习

《理解深度学习》第12课-深度神经网络的反向传播算法

25分钟 ·
播放数13
·
评论数0

本课详解反向传播算法。通过前向传播存储激活值,反向传播利用链式法则复用中间导数,高效计算损失对权重和偏置的梯度。该过程将复杂微积分转化为矩阵乘法,是训练深度模型的核心。

第12课完整讲义:zhuanlan.zhihu.com

00:00 开篇语

00:14 第6章回顾

02:13 三次隐藏网络的前向计算

03:38 总损失和参数更新

05:07 观察1 和 观察2

09:07 玩具示例

10:10 玩具示例中的前向传播

10:43 玩具示例中的反向传播1

12:11 玩具示例中的反向传播2

13:32 向量矩阵表示的前向传播

14:26 向量矩阵表示的反向传播 1

17:52 向量矩阵表示的反向传播 2

20:15 反向传播算法总结

21:55 自动微分、张量和无环计算图

24:16 结束语