32、神经网络：原理、结构与关键概念解析

神经网络：原理、结构与关键概念解析

神经网络的神奇力量与组织方式

单个的人工神经元能力十分有限，它接收一组数值输入，对其进行加权求和，再通过一个小函数处理，最多只能识别出一条分割数据团的直线。然而，当把成千上万个这样的小单元组织成层，并运用巧妙的方法进行训练时，它们就能协同完成诸如语音识别、照片人脸识别，甚至在逻辑和技能游戏中击败人类等复杂任务。

关键在于组织方式。人们已经开发出多种组织神经元层的方法，形成了一系列常见的层结构。其中最常见的是前馈网络，在这种网络中，信息只朝一个方向流动，早期的神经元将值传递给后续的神经元。设计深度学习系统的艺术在于选择合适的层序列和超参数来构建基本架构。为了构建适用于特定应用的架构，我们需要理解神经元之间的相互关系。

神经网络图

我们通常用图来表示神经网络。图论是一门独立的数学领域，不过在这里我们只关注构建神经网络所需的基本图概念。

图由节点（也称为顶点或元素，通常用圆圈表示）和边（也称为弧、线，用箭头表示）组成。当信息流动方向一致（通常是从左到右或从下到上）时，箭头可能会省略。信息沿着边从一个节点的输出传递到其他节点的输入，由于每条边上信息只单向流动，所以这种图也被称为有向图。

信息从输入节点进入，通过边流动，在节点处进行转换，最终到达输出节点，且不会返回已离开的节点，即信息只向前流动，没有循环。这种图就像一个小工厂，原材料从一端进入，经过各种机器的处理和组合，最终在另一端产出一个或多个成品。

下面是有向图的特点总结：
|特点|描述|
| ---- | ---- |
|节点|通常代表神经元|
|边|连接节点，信息单向流动|