并行程序设计基础——编程模型和并行语言

目录

一、并行编程模型

1、数据并行

2、消息传递

二、并行语言

三、小结

---

        从本文开始，我们开始认识学习并行程序设计，本专栏主要对MPI并行程序设计进行介绍。

一、并行编程模型

        并行编程非常重要的两种编程模型是数据并行和消息传递。

        数据并行编程模型的编程级别较高，编程难度较简单，但仅适用于数据并行问题。相比之下，消息传递编程模型的编程级别较低，但是应用范围更加广泛。

1、数据并行

        数据并行是将相同的操作同时作用于不同的数据，适合在SIMD（Single Instruction Multiple Data，单指令多数据）和SPMD（Single Program Multiple Data，单程序多数据）并行计算机上运行，同时在向量机上通过数据并行求解问题的实现也说明了数据并行是可以高效解决科学与工程计算问题的。

        数据