3、深度学习入门与TensorFlow初览

深度学习入门与TensorFlow初览

1. 神经网络架构

神经网络的架构由节点的连接方式、层数（即输入和输出之间的节点层级）以及每层的神经元数量来定义。常见的神经网络架构主要分为以下几种：

1.1 多层感知机（Multilayer Perceptron）

在多层网络中，人工神经元具有以下特点：
- 每个神经元与下一层的所有神经元相连。
- 同一层的神经元之间没有连接。
- 非相邻层的神经元之间没有连接。
- 层数和每层的神经元数量取决于要解决的问题。

输入层和输出层定义了输入和输出，中间存在隐藏层，其复杂度决定了网络的不同行为。神经元之间的连接由与相邻层对数量相同的矩阵表示，每个数组包含两层相邻节点之间连接的权重。前馈网络是层内无循环的网络。

1.2 深度神经网络（Deep Neural Networks, DNNs）

DNNs是高度面向深度学习的人工神经网络。当由于待处理数据的复杂性而无法应用常规分析程序时，这类网络是出色的建模工具。DNNs与前面讨论的网络类似，但必须实现更复杂的模型（大量的神经元、隐藏层和连接），不过它们遵循适用于所有机器学习问题的学习原则（即监督学习）。

DNNs并行工作，能够处理大量数据，是一种复杂的统计系统，具有良好的抗错误能力。与算法系统不同，在神经网络中，有时虽然能得到非常可靠的结果，但可能无法理解这些结果的原因。目前没有生成最优神经网络的定理，构建良好网络的可能性完全掌握在创建者手中，创建者必须熟悉统计概念，并特别注意预测变量的选择。

为了提高效率，DNNs需要进行适当调整权重的训练。如果要处理的数