二分分类2.1 二分分类

以6464的3通道图片为例,它的特征一共有364*64=12288个.

在神经网络中我们把每一个样本作为一列(通常情况下我们是作为一行),这样处理有助于以后的理解.
而对应的标签y则是一样的布局.

接下来的两张图片是介绍深度学习里的符号约定.

字母的上标$(i)$代表了$i^{th}$第i个样本,同样的道理$[l]$将代表$l^{th}$第$l$个层

$m$ 数据集中样本的数量
$n_x$ 输入的特征尺寸
$n_y$ 输出的标签尺寸
$n_h^{[y]}$ 在$l$层,隐藏单元的数量
$L$ 神经网络中的层数

$X\in R^{n_x\ast m}$ 输入的矩阵
$x^{(i)}\in R^{n_x}$ 代表了第$i$个样本(或者第$i$列)
$Y\in R^{n_y\ast m}$ 输出的矩阵
$y^{(i)}\in R^{n_y}$ 第$i$个输出标签(或者第$i$列)
$W^{[l]}\in R^{后一层的神经元\ast 前一层的神经元}$ 第$l$层的系数矩阵
$b^{[l]}\in R^{下一层神经元的数量}$ 第$l$层的偏置(bias)矩阵
$\hat{y}\in R^{n_y}$ 预测的输出向量,它也可以是$a^{[l]}$,$l$是神经网络中的层.

$a=g[l](W_x{x}^{(i)}+b_1)=g[l](z_1)$ 代表了第$l$层的激活函数

${\hat{y}}^{(i)}=softmax(W_{h}h+b_2)$
$a_j^{[l]}=g^{[l]}({\sum }_k{w}_{jk}^{[l]}{a}_k^{[l-1]}+b_j^{[l]})=g^{[l]}(z_j^{[l]})$
$J(x,W,b,y)$ or $J(\hat{y},y)$ 是损失函数