【Interconnection Networks 互连网络】Torus 网络拓扑

本文探讨了Torus和Mesh网络拓扑结构,包括它们在规则网格中的节点配置、优点如物理一致性带来的低延迟和高吞吐量,以及缺点如跳数增加和潜在的负载不平衡。作者还介绍了如何通过调整维度和基数来优化网络性能。

1. Torus 网络拓扑

Torus 和 Mesh 网络拓扑,又可以称为 k-ary n-cubes,在规则的 n 维网格中包裹着 N = k^n 个节点,每个维度都有 k 个节点,并且最近邻居之间有通道。k-ary n-cubes包含一系列网络,从 rings (n = 1) 到 binary n-cubes (k = 2),也称为超立方体(hypercubes)。

这些网络的优势在于规则的物理排列与封装限制很好地匹配。在小尺寸下,tori具有统一的短线,允许高速运行而无需中继器。tori中逻辑上最小的路径几乎总是物理上最小的。这种物理的一致允许环面和网状网络利用通信节点之间的物理局部性。对于本地通信模式,例如每个节点在第一维中向其邻居发送消息,与随机流量相比,延迟要低得多,吞吐量要高得多,而蝴蝶网络无法利用这种局部性。

Tori 具有良好的路径多样性,即使在排列流量上也能具有良好的负载平衡。此外,由于torus或mesh网络中的所有通道都是双向的,因此它们可以利用双向信号,从而更有效地利用引脚和电线。

Tori网络的一个缺点是它们比对数网络具有更大的跳数。这使得它们的延迟略高于最小界限,并增加了网络的引脚成本。但请注意为了路径多样性,跳数的增加是必要的。设计者可以通过选择网络的维度 n 来确定环面网络的属性。网络的吞吐量随着维度单调增加,直到网络二分受限。对于低维度,延迟由高跳数 H 主导,而对于高维度,序列化延迟 Ts 占主导地位。最小延迟通常在相对较低的维度上实现,通常在 2 到 4 之间。为了最小化延迟和线路长度,我们通常选择 n 作为限制网络平分的最小维度。

2. Torus 网络拓扑结构

n-dimensional, radix-k torus或 k-ary n-cube,由 N = kn 个节点组成,每个维度上有 k 个节点。torus 作为一个直接网络,这N个节点中的每一个都同时充当网络的输入端、输出端和交换节点。每个节点都分配有一个 n 位 radix-k 的地址 {an−1,…,a0}作为坐标,并通过一对通道(每个方向一个)连接到地址相差 ±1 (mod k) 的节点,总共需要2nN 个 channels。Tori 是规则的(所有节点具有相同的度数)并且也是边对称的,这有助于改善通道之间的负载平衡。

一般来说,tori可以通过迭代添加维度来构造任意 k 元 n 立方体,如图 5.1 所示。 k-ary 1-cube(图 5.1[a]) 只是一个 k 节点环。将 k 个 1-cube 连接成一个循环会增加第二个维度,形成 k-ary 2-cube (图 5.1[b])。该过程持续一个维度,将 k 个 k-ary (n − 1)-cube 组合成一个 k-ary n-cube(图 5.1[c])。
在这里插入图片描述

Mesh 网络拓扑是 Torus 网络拓扑在每个方向上省略从节点 ak-1 到节点 a0 的连接。例如,图 5.2 将 4-ary 2-cube (torus)与 4-ary 2-mesh 进行了比较。Mesh 具有相同的节点的度,但对分带宽通道的数量是具有相同基数和维度的 torus 拓扑的一半。尽管 mesh 具有非常自然的二维布局,可以保持较短的通道长度,但它放弃了 torus 的边缘对称性。这可能会导致许多流量模式的负载不平衡,因为 mesh 拓扑的中央通道的需求可能明显高于边缘通道

从图中很容易看出,如果每个方向 channel 的信道带宽为 (b), a k-ary n-cube 的二等分带宽是 (B = 4k^{n-1} b )
在这里插入图片描述

torus 可以是单向的,在每一维中仅具有一个方向(从 ai 到 ai+1)的通道,也可以是双向的,在连接的节点之间具有两个方向的通道。mesh 也可以构成成单向或双向;然而,单向的 mesh 由于没有较长的边缘通道,因此必须在不同行之间交替改变方向,以保持网络完全连接。即使成本增加,双向网络通常也是首选,因为它们具有较低的跳数 H 和更大的路径多样性。一般来说,我们认为环面或网格是双向的

Torus 网络的每个维度可以具有不同的基数。例如,图 5.3 显示了一个 2,3,4-ary 3-mesh,其 y 维度的基数为 2,z 维度的基数为 3,x 维度的基数为 4。混合基数环面和网格通常是出于封装和模块化的实际原因而构建的。然而,混合基数 tori 不再是边对称的,并且与单基数 mesh 相比,混合基数网格更加不对称。这些不对称引入了负载的不平衡,并且对于许多流量模式(包括均匀流量),较长维度上的信道负载大于较短维度上的负载。对于均匀流量(例如 γx),图 5.3 中 x 维度上的负载将是 γz 的两倍(可以简单地理解,在 X 维度,每个节点需要和其余三个节点通信,其中设置一对一节点的通信量为r,总共通信量就是 X 维度上的总的通信量是 12r,而 Z 维度上任意link的通信量都是 6r,故在均匀随机流量模式下,x 维度上的负载将是 γz 的两倍)。

在这里插入图片描述

References

[1] Dally, William James, and Brian Patrick Towles. Principles and practices of interconnection networks. Elsevier, 2004.
[2] Jerger, Natalie D. Enright, et al. On-chip networks. Vol. 12. No. 3. Morgan & Claypool, 2017.

在计算架构中,互连网络Interconnection Networks)是用于连接多个处理单元、存储单元以及I/O设备的核心通信基础设施。其主要功能是实现不同组件之间的高效数据传输与交换[^1]。互连拓扑Interconnection Topology)作为互连网络的关键组成部分,决定了节点之间的连接方式和通信路径,直接影响系统的性能、可扩展性和可靠性。 ### 互连拓扑的基本分类 常见的互连拓扑包括: - **总线型结构**:所有节点共享一条通信总线,适用于小规模系统,但存在带宽瓶颈。 - **星型结构**:所有节点通过中央交换节点连接,便于管理但依赖中心节点。 - **环形结构**:节点按环状连接,通信效率较高但容错性较差。 - **网状结构(Mesh)**:每个节点与其他部分或全部节点直接相连,具有高可靠性和低延迟,但成本较高。 - **超立方体(Hypercube)**:适合大规模并行处理系统,具有良好的扩展性。 - **树状结构**:支持分层通信,常用于广播和多播应用。 这些拓扑结构的选择将影响封装(Packaging)设计中的物理布局、信号完整性、功耗管理等方面。 ### 封装映射原理 在封装设计中,互连拓扑需要被映射到物理芯片或模块的布局上。这种映射过程涉及以下几个关键方面: 1. **物理布线约束**:拓扑结构中的每条边对应封装中的物理连线,需考虑长度、延迟和串扰等问题。 2. **热管理**:节点之间的通信会产生热量,合理的拓扑映射有助于均衡热分布,提升系统稳定性。 3. **功耗优化**:短距离通信通常能耗较低,因此映射时应尽量缩短高频通信节点之间的物理距离。 4. **可制造性与可测试性**:复杂的互连结构可能增加封装难度,影响良率和后期测试的可行性。 例如,在多核处理器中,若采用Mesh拓扑,封装时可以将相邻核心物理上靠近排列,以减少互连延迟和功耗。而在GPU等大规模并行系统中,可能采用3D封装技术来实现更高效的拓扑映射[^1]。 ### 互连网络拓扑对封装的影响 互连网络的设计目标包括高带宽、低延迟、可扩展性等。拓扑结构直接影响这些性能指标,并进一步决定封装设计的复杂度和实现方式。例如: - 在Chiplet架构中,多个小芯片通过先进封装(如硅通孔TSV、微凸块)进行互联,此时拓扑结构的选择会显著影响芯片间的通信效率和封装成本。 - 在异构计算系统中,CPU、GPU、FPGA等不同类型的计算单元之间需要高效互连,拓扑结构的合理设计与封装映射至关重要。 ### 示例代码:拓扑建模与通信延迟分析 以下是一个简单的Python示例,展示如何模拟不同拓扑结构下的通信延迟: ```python import networkx as nx import matplotlib.pyplot as plt # 创建一个5x5 Mesh拓扑 mesh = nx.grid_2d_graph(5, 5) # 计算平均最短路径长度(近似通信延迟) avg_path_length = nx.average_shortest_path_length(mesh) print(f"Average shortest path length in Mesh topology: {avg_path_length:.2f}") # 可视化拓扑 nx.draw(mesh, with_labels=True, node_size=100) plt.show() ``` 该代码使用`networkx`库创建了一个二维网格拓扑(Mesh),并计算了其平均最短路径长度,用于评估通信延迟特性。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

正在輸入......

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值