下文所讨论的所有通信操作都是使用直通路由选择而不是存储转发机制
一对多广播以及多对一规约
一对多广播:广播结束后会有p个原始数据的副本。
多对一规约:所有进程的数据通过一个相关的操作符结合起来,累加到一个目标进程中的缓冲区。
环或线性阵列
使用一种递归加倍的技术,在logp步广播完成。每一步都要仔细选择消息发送的目标节点,以免出现阻塞。
格网
行和列分别看成线性阵列
超立方体
看成一个d维的格网
平衡二叉树
每一个中间节点是开关节点。
算法实现
算法是在所有节点上跑的,通信从最高维向最低维进行。只有节点标号的i位最低有效位全为0的节点才参与