神经网络-模型表示 from 吴恩达的机器学习

模型表示

逻辑回归模型：

神经网络模型：

其中, , 是输入单元（input units），我们将原始数据输入给它们。 , , 是中间单元，它们负责将数据进行处理，然后呈递到下一层。 最后是输出单元，它负责计算。

神经网络模型是许多逻辑单元按照不同层级组织起来的网络，每一层的输出变量都是下一层的输入变量。下图为一个3层的神经网络，第一层成为输入层（Input Layer），最后一层称为输出层（Output Layer），中间一层成为隐藏层（Hidden Layers）。每一层都增加一个偏差单位（bias unit）：

引入表示法：

  代表第 层的第  个激活单元。

代表从第  层映射到第 层时的权重的矩阵。

    例如代表从第一层映射到第二层的权重的矩阵。其尺寸为：以第 层的激活单元数量为行数，以第  层的激活单元数加一为列数的矩阵。

对上图所示模型，各个单元和输出表示为：

神经网络第二种模型表示

令

则