5、在OpenSHMEM中利用主动消息提高计算异步性

在OpenSHMEM中利用主动消息提高计算异步性

在高性能计算(HPC)领域,编程模型正面临着极端规模下的挑战,传统的块同步执行模型逐渐向支持更多异步行为的模型转变。OpenSHMEM编程模型为HPC程序员在设计异步通信模式时提供了利用底层网络能力的途径,但在处理大数据负载且计算重叠不足的情况下,会出现CPU周期利用率低下的问题。为了解决这些挑战,我们探索了在OpenSHMEM模型中引入主动消息(Active Messages,AM)的可行性。

主动消息概述

主动消息是一种成熟的编程范式,允许一个进程触发远程进程上计算单元的执行。其主要动机是实现小计算路径的异步执行,并使通信与计算重叠,同时在源和目标处理元素(PE)处产生极少的同步开销。用户指定的函数(称为“处理程序”)可以访问目标PE上的用户地址空间。

下面是两个进程使用主动消息进行通信的流程:
1. 注册处理程序 :源进程A和目标进程B都向AM库注册函数处理程序。
2. 发送AM请求 :源进程A向远程进程B发送AM请求,该请求主要包括B的身份、要在B处执行的处理程序的身份,以及可选的数据缓冲区内容。
3. 执行请求处理程序 :进程B接收到AM请求后,选择异步执行请求的函数处理程序,并在执行开始时访问传输的数据缓冲区。
4. 发送回复AM :在执行请求处理程序期间,进程B可以选择向A发送回复AM,包含要在A处执行的处理程序的身份和可选的数据有效负载。
5. 执行回复处理程序 :A检测到回复A

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符  | 博主筛选后可见
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值