MPI缓冲区
- 由MPI自行维护的一块内存区域,也可由用户(MPI_Bsend)自行维护;
- 发送方 维护一块发送缓冲区; 接收方 维护一块接收缓冲区。
数据收发过程:
- 当发送端将数据拷贝到自身的数据缓冲区后(注意这里是拷贝,即数据到达发送缓冲区,再对原数据进行修改将不会影响发送的数据),对应的Send函数将会返回,意味着发送动作已经完成;
- 当接收端将数据拷贝到自身的接收缓冲区中,Recv函数调用结束。
类似于Socket通信时,调用send将数据放置发送缓冲区即表示send完成。
阻塞通信模型
发送
1. 标准通信模式 MPI_Send 该接口是否进行缓存由MPI决定,分情况讨论
- 发送进程的发送动作不依赖接收进程(有缓存):发送进程将数据拷贝到数据缓冲区,不管接收进程有没有执行接收动作,函数都直接返回,发送动作对于用户来讲已经完成;
- 发送进程的发送动作依赖于接收进程(不带缓存,直接发送):发送进程发送消息时需要接收进程也要开始接收进程,两者处于一边发送一边接收的状态,此时MPI_Send阻塞当前发送方直到数据被接收方确认收到,基于底层的数据传输机制;
2. 缓存通信模式 MPI_Bsend 当用户对上述标准通信模式不满意,不能满足需求,可以采用该模式
该函数在发送消息时使用明确的缓冲区,并具有较低的内存使用率和较高的性能。相对于 MPI_Send 函数,MPI_Bsend 不阻塞发送方,也不会复制消息缓冲区中的数据,而是将数据拷贝到MPI缓冲区中,MPI_Bsend 函数将立即返回,在MPI缓冲区中的消息稍后使用异步方式传输。
函数原型
int MPI_Bsend(const void *buf, int count,
MPI_Datatype datatype, int dest, int tag, MPI_Comm comm)
//用户自行管理缓冲区
int MPI_Buffer_attach(void *buffer,int size)
int MPI_Buffer_detach(void *buffer,int &size)
参数详解
- buf: 待发送数据的首地址
- count: 待发送的数据量
- datatype: 待发送数据类型
- dest: 目标进程的 MPI rank
- tag: 消息标记
- comm: MPI通信域
注意事项
发送时需要将数据从消息缓冲区拷贝到用户提供的缓冲区buffer,该方法消除了发送端同步的开销,如前面分析,消息发送能否进行及能否正确返回不依赖于接收进程。好处是用户可以认为程序需要发送的消息提供缓冲区,但用户也需要负责管理该缓冲区。如果该缓冲区buffer大小不足以存储消息缓冲区中待发送的数据,将导致程序错误退出。
#include <stdio.h>
#include <stdlib.h>
#include <mpi.h>
#define BUFFER_SIZE 1024
int main(int argc, char *argv[])
{
int rank, size;
MPI_Status status;
double t0, t1;
char buf[BUFFER_SIZE];
char *my_buffer;
MPI_Request request;
MPI_Init(&argc, &argv);
MPI_Comm_rank(MPI_COMM_WORLD, &rank);
MPI_Comm_size(MPI_COMM_WORLD, &size);
if(rank == 0)
{
//为MPI缓冲区分配内存空间
my_buffer=(char *)malloc(BUFFER_SIZE);
MPI_Buffer_attach(my_buffer, BUFFER_SIZE);
snprintf(buf, BUFFER_SIZE, "Hello, world, from rank %d!", rank);
t0=MPI_Wtime();
//异步发送消息
MPI_Bsend(buf, BUFFER_SIZE, MPI_CHAR, 1, 0, MPI_COMM_WORLD, &request);
MPI_Wait(&request, &status);
t1=MPI_Wtime();
printf("Time taken=%f\n", t1-t0);
free(my_buffer);
MPI_Buffer_detach(&my_buffer, &BUFFER_SIZE);
}
else
{