关于并行计算的一些名词

并行计算（英语：parallel computing）

   一般是指许多指令得以同时进行的计算模式。在同时进行的前提下，可以将计算的过程分解成小部分，之后以并发方式来加以解决

空间上的并行导致两类并行机的产生，按照麦克·弗莱因（Michael Flynn）的说法分为单指令流多数据流（SIMD）和多指令流多数据流（MIMD），而常用的串行机也称为单指令流单数据流（SISD）。MIMD类的机器又可分为常见的五类：并行向量处理机（PVP）、对称多处理机（SMP）、大规模并行处理机（MPP）、工作站机群（COW）、分布式共享存储处理机（DSM）。

单指令流多数据流（英语：Single Instruction Multiple Data，缩写：SIMD）

是一种采用一个控制器来控制多个处理器，同时对一组数据（又称“数据向量”）中的每一个分别执行相同的操作从而实现空间上的并行性的技术。

多指令流多数据流（Multiple Instruction Stream Multiple Data Stream，缩写：MIMD），

是使用多个控制器来异步地控制多个处理器，从而实现空间上的并行性的技术。

单指令流单数据流（英文：Single instruction, single data，缩写：SISD）

每个指令部件每次仅译码一条指令，而且在执行时仅为操作部件提供一份数据。符合冯.诺依曼架构。

向量处理器

又称数组处理器，是的一种实现了直接操作一维数组（向量）指令集的中央处理器（CPU）。

对称多处理（英语：Symmetric multiprocessing，缩写为 SMP）

也译为均衡多处理、对称性多重处理，是一种多处理器的电脑硬件架构，在对称多处理架构下，每个处理器的地位都是平等的，对资源的使用权限相同。现代多数的多处理器系统，都采用对称多处理架构，也被称为对称多处理系统（Symmetric multiprocessing system）。在这个系统中，拥有超过一个以上的处理器，这些处理器都连接到同一个共享的主内存上，并由单一操作系统来控制。在多核心处理器的例子中，对称多处理架构，将每一个核心都当成是独立的处理器。

大规模并行处理机（Massively Parallel Processor）

是由多个由微处理器，局部存储器及网络接口电路构成的节点组成的并行计算体系；节点间以定制的高速网络互联。大规模并行处理机是一种异步的多指令流多数据流，因为它的程序有多个进程，它们分布在各个微处理器上，每个进程有自己独立的地址空间，进程之间以消息传递进行相互通信。

均匀访存模型（Uniform Memory Access）通常简称UMA

指所有的物理存储器被均匀共享，即处理器访问它们的时间是一样的。UMA亦称作统一寻址技术或统一内存存取。这种系统因为高度的资源共享也被称为紧耦合系统（Tightly Coupled System）。