深度学习——day27 class1 week3 神经网络概览及表示
神经网络概览及表示
- 3.1 神经网络概览
- 3.2 双层神经网络表示
- 3.3 计算神经网络的输出
- 3.4 多个例子中的向量化
- 3.5 向量化实现的解释
3.1 神经网络概览
如图
红色代表反向计算
3.2 双层神经网络表示
- 输入层:习惯上成为第0层;
- 隐藏层:我们只能看到输入和输出,对于中间变量的计算在训练集中无法看到。
3.3 计算神经网络的输出
隐层可以看成多个逻辑回归计算过程(图左)
把z看作向量,向量化以避免使用 for 循环
注意矩阵乘法的维度变化,单隐藏层神经网络只需要计算这四个等式
3.4 多个例子中的向量化
方框指层数,圆括号指训练集的序号
首先用for循环。用了不少线代的知识
矩阵解释:
3.5 向量化实现的解释
为了简化描述,先令 b = 0
X矩阵:横轴表示不同的训练集;竖轴表示一个训练集的不同参数w,b等等
最后用broadcasting广播将b加进去
两步运算: