1、神经网络基础与模型解析

神经网络基础与模型解析

1. 神经信息处理原理

大脑作为执行复杂信息处理任务的“硬件”，其微观处理单元——神经元，与现代计算机的处理方式有着本质区别。神经元是可激发的脑细胞，能产生电脉冲与相邻细胞通信，它们并行运作，且通过突触传递信号，突触强度会不断缓慢更新。

下面通过表格对比传统计算机系统和生物神经网络的主要异同：
| 对比项 | 计算机（2004 年规格） | 生物神经网络 |
| — | — | — |
| 处理器 | 常规处理器 | 神经元 |
| 运行速度 | ~10⁹ Hz | ~10² Hz |
| 信号/噪声比 | ≫1 | ~1 |
| 信号速度 | ~10⁸ m/s | ~1 m/s |
| 连接数 | ~10 | ~10⁴ |
| 操作方式 | 顺序操作 | 并行操作 |
| 程序和数据 | 外部编程的程序和数据 | 连接和神经元特性 |
| 编程方式 | 外部编程 | 自编程和自适应 |
| 硬件故障抗性 | 对硬件故障不鲁棒 | 对硬件故障鲁棒 |
| 数据处理能力 | 无法处理意外数据 | 能处理杂乱、意外和不一致的数据 |

从工程角度看，神经元作为处理器远不如计算机处理器，速度慢且可靠性低。但大脑通过冗余和并行操作克服了这些问题，而传统计算机通常按顺序执行操作，单个环节故障可能导致整个操作失败。此外，神经网络能很好地适应变化的环境，如识别变形或部分可见的物体，视觉系统能适应图像的奇怪变形，甚至能重新连接神经纤维并学会控制运动。

研究神经网络主要有三种动机：生物学家旨在理解生物神经系统的信息处理；工程师和计算机科学