并行处理机的存储结构主要分为两类存储器：一类是主处理机附属存储器，用于驻留操作系统

并行处理机的存储结构主要分为两类存储器：一类是主处理机附属存储器，用于驻留操作系统，负责控制和协调整个系统的运行；另一类是分布在各个处理单元（Processing Element, PE）中的PEM（Processing Element Memory），用于存放分配给各处理单元的程序和数据。这种结构支持数据级并行，适合向量或数组操作。

在指令流方面，并行处理机采用单指令流多数据流（SIMD）模式，即由主处理机串行地执行指令，然后通过向量总线将同一指令下的数据广播到多个处理单元，实现并行计算。各处理单元之间的数据交换依赖于专门的数据寻径网络（如交叉开关、环网、Mesh等），以实现高效通信。

相比之下，多处理机系统由多个独立的处理机组成，每个处理机都有自己的控制部件和本地存储，能够独立执行不同的指令流，属于多指令流多数据流（MIMD）架构。它们通常共享主存储器和外部设备，通过共享内存或消息传递方式进行通信。为保证系统性能，多处理机间的互连网络需要具备高带宽、低延迟和低成本的特点，常见的互连技术包括总线、交叉开关、多级网络（如Omega网络、Banyan网络）等。
SIMD（Single Instruction, Multiple Data）与 MIMD（Multiple Instruction, Multiple Data）是两种典型的并行计算架构，它们在指令流控制方式和数据处理模式上的差异决定了各自适用的应用场景。

SIMD 架构特点与应用场景：

• 所有处理单元在同一时刻执行相同的指令，但作用于不同的数据元素。
• 适合数据级并行任务，即对大规模数据集进行相同操作。
• 典型应用包括：
  • 向量和矩阵运算（如科学计算中的线性代数）
  • 图像处理（如像素点的亮度调整、滤波）
  • 数字信号处理（如FFT、音频处理）
  • GPU 中的并行计算核心（现代GPU虽更接近SIMT，但仍继承SIMD思想）

MIMD 架构特点与应用场景：

• 每个处理机可独立执行不同的指令流，处理不同的数据，具有更高的灵活性。
• 支持任务级并行和进程级并行，适合复杂控制逻辑和异步任务。
• 典型应用包括：
  • 多任务操作系统（并发执行多个程序）
  • 分布式服务器处理（如Web服务、数据库查询）
  • 实时控制系统（如工业自动化、机器人）
  • 多核CPU上的并行应用程序（如多线程软件）

主要区别总结：

对比维度	SIMD	MIMD
指令流	单一指令流	多个独立指令流
并行类型	数据级并行	任务/进程级并行
控制复杂度	简单，由主控单元统一调度	复杂，各处理器独立控制
通信机制	数据通过向量总线或寻径网络	共享内存或消息传递
适用场景	规则性强、数据密集型任务	控制流复杂、任务异构性高的系统

因此，SIMD 更适用于高吞吐、规则化数据处理；而 MIMD 更适合需要灵活控制和多任务并发的通用计算环境。