9、探索专业硬件：从架构到GPU的技术之旅

探索专业硬件：从架构到GPU的技术之旅

1. 冯·诺依曼架构的广泛应用与不足

早在1981年甚至更早，PC产品就通过总线连接处理器、内存和外围设备，采用冯·诺依曼架构。这种架构具有显著的模块化优势，允许用户单独升级每个组件，提升设备性能，例如增加PC的内存或存储容量，使用更高级的外围设备。

然而，冯·诺依曼架构也存在严重不足：
- 冯·诺依曼瓶颈 ：在人工智能、机器学习和数据科学等领域，这是最严重的缺陷，后续会详细讨论。
- 单点故障 ：总线连接中断会导致计算机立即故障，而非平稳降级。即使是多处理器系统，单个处理器故障也可能导致整个系统崩溃，这对于需要持续运行的AI应用来说后果严重。
- 单一任务处理 ：冯·诺依曼总线一次只能检索指令或执行指令所需的数据，不能同时进行。当数据检索需要多个总线周期时，处理器会闲置，降低了其执行密集型AI任务的能力。
- 任务处理能力有限 ：人脑可以同时触发多个突触来执行多个操作，而原始的冯·诺依曼设计一次只能执行一个操作，且需要先检索指令和数据。虽然现代计算机通常有多核，但应用代码必须明确支持多核处理，否则该功能可能无法充分发挥。

2. 哈佛架构的特点与应用

在硬件研究中，可能会遇到哈佛架构，一些系统采用其改进形式来加速处理。冯·诺依曼架构和哈佛架构都依赖总线拓扑，但两者存在显著差异：
| 架构类型 | 总线使用 | 内存使用 | 速度与效率 | 可靠性 |
| — | — | — | — | — |
|