神经网络和深度学习笔记 第四章 深层神经网络

• 点击查看目录与导航
• DeepLearning.ai 系列课程第一课
• https://mooc.study.163.com/course/2001281002
• @Catpub

4.1 深层神经网络

• 符号表示
  
  • $n^{[i]}$ 表示第 $i$ 层的节点个数
  • $a^{[i]}$ 表示第 $i$ 层的激活函数
  • $a^{[L]}$ 表示最后一层的输出，即之前章节的 $\hat{y}$

4.2 深层网络中的前向传播

• 和浅层的类似，但计算每一层的时候仍要使用循环，不能一起计算全部层

4.3 核对矩阵的维数

• 非常有效的检查代码的方式

4.4 为什么使用深层表示

• 神经网络内部在做些什么？他为什么有效？
  
  • 浅层先识别边缘，然后一层一层逐步由小及大，最终能探测出人脸
  • 大脑就是先从边缘入手然后识别物体的
• 还有很多其他的原因。。。

4.5 搭建深层神经网络块

• 较简单，略

4.6 前向传播与后向传播

• 先利用前向传播计算出损失函数值，再利用后向传播计算导数

4.7 参数 VS 超参数

• 传说中的“调参”主要就是调超参数

4.8 这和大脑有什么关系？

• 见 https://www.bilibili.com/video/av21757516