NVIDIA InfiniBand AI 高性能网络

已于 2025-02-24 17:28:48 修改
阅读量1.9k 收藏 2
点赞数 2
CC 4.0 BY-SA版权
分类专栏： 软硬件融合加速技术专栏 AI 技术原理与应用场景 文章标签： 网络 服务器 tcp/ip
于 2022-06-21 11:48:33 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/Jmilk/article/details/125387498
InfiniBand是一种高带宽、低延迟的网络通信协议，最初应用于HPC，现在逐渐普及到数据中心。与TCP/IP相比，InfiniBand具有更高的传输效率和更低的延迟，通过RDMA技术实现数据的零拷贝和旁路操作系统，提高CPU利用率。InfiniBand架构包括物理层、链路层、网络层和传输层，支持多种设备如通道适配器、交换机和路由器。其分层协议和RDMA特性使其在高性能计算和数据中心环境中表现出色。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

目录

文章目录

InfiniBand RDMA

InfiniBand 是一种专为 RDMA 设计的网络，基于 InfiniBand 的设备通常都实现了 RDMA，从硬件级别保证可靠传输。全球 HPC 高算系统 TOP500 大效能的超级计算机中有相当多套系统在使用 InfiniBand Architecture（IBA）。最早做 InfiniBand 的厂商是 IBM 和 HP，现在主要是 NVIDIA 的 Mellanox。InfiniBand 从 L2 到 L4 都需要自己的专有硬件，成本相对较高。

RDMA 的最主要的特点就是零拷贝和旁路操作系统，数据直接在外部设备和应用程序内存之间传递，这种传递不需要 CPU 的干预和上下文切换。结合 RDMA，InfiniBand 能够实现以应用为中心的通信方式，而非 TCP/IP 似的以网络设备节点为中心的通信方式。

数据的传输工作直接交给 InfiniBand 设备完成，无需经过网络节点操作系统的转发（Kernel Bypass）。这一方面提升了数据的传输效率，另一方面提高了 CPU 的利用率。

在这里插入图片描述

IB 架构

InfiniBand Architecture（IBA）包括以下组件：

  1. Processor Node：C
了解本专栏 订阅专栏 解锁全文 超级会员免费看
高性能算力中心 — RDMA — Overview
烟云的计算
04-20 1915
目录 文章目录目录RDMA基于以太网的 RoCE/RDMA 计算优化NVMeNVMe Over Fabrics基于以太网的 NVMe 存储优化 RDMA RDMA（Remote DMA，远程直接内存访问）是一种新的内存访问技术，RDMA 让计算机可以直接存取其他计算机的内存，而不需要经过 CPU 耗时的处理。RDMA 将数据从一个系统快速移动到远程系统存储器中，而不对操作系统造成任何影响。RDMA 技术的原理及其与 TCP/IP 架构的对比如下图所示。 InfiniBand（IB）：从一开始就支持 R
同样都是高性能计算 (HPC) 领域网络互连技术，NVLink 与 InfiniBand有啥区别？
网络技术联盟站
04-23 1695
当谈及高性能计算和数据中心领域的网络互连技术时，NVLink 和 InfiniBand 无疑是两个备受关注的话题。它们代表了当今领先的高速通信技术，为连接计算节点、存储设备和加速器等提供了关键的解决方案。在本文中，我们将深入探讨 NVLink 和 InfiniBand 的设计原理、性能特点以及在不同领域中的应用情况。
InfiniBand互连技术详解与展望
weixin_42511373的博客
06-01 943
InfiniBand是一种高速的计算机网络通信标准，主要用于服务器和存储设备之间的连接，以及高性能计算（HPC）和数据中心领域。它支持多种数据传输速率，且具有低延迟、高带宽和高可靠性的特点。InfiniBand的核心设计目标是提供一种灵活、可靠、高速的数据通信方式，以满足不断增长的数据中心和HPC应用需求。InfiniBand协议栈是一个分层的架构，与OSI模型类似，包含了一系列的层次，每层具有定义明确的功能，以支持可靠和高性能的数据传输。协议栈由物理层、链路层、网络层、传输层和子网管理层构成。
Infiniband技术让数据中心高性能计算得以实现
weixin_34228387的博客
11-11 357
Infiniband高速网络是近几年产生的一种新兴技术，因其具有高带宽、低延迟的特色，得到了计算领域的青睐。 目前，高性能计算机集群（HPC：High Performance Computing）在计算领域中得到了普遍应用。由于HPC系统能够快速准确计算出结果，有助于解决商业和科学研究中面临的问题，所以，HPC系统正在被越来越多的数据中心所采用。 值得注意的是，一个集...
InfiniBand网络-赋能高性能计算的卓越引擎
07-20 1197
InfiniBand：赋能高性能计算网络的卓越引擎
高性能算力中心 — NVIDIA Cloud Native supercomputing
烟云的计算
07-14 2312
SHARP（Scalable Hierarchical Aggregation and Reduction Protocol，可扩展分层次聚合和归约协议）是一种聚合通信（e.g. ML 梯度聚合、FL 模型聚合）网络卸载技术。在各种 HPC 和 AI 场景中，常常存在多种聚合类通信协议，这些聚合类通信由于涉及全局网络，常常会对 Application 的并行效率产生巨大的影响。业内研究了多种优化聚合类通信效率的软件方法，但依旧没有很好的解决必须要在全局网络中进行多次通信才能完成整体聚合操作，且很容易引入网络
InfiniBandTM Architecture Specification
06-21
InfiniBand Architecture Specification Volume 2 Release 1.3
基于NVIDIA QM8700/8790交换机与HDR网卡的InfiniBand高性能网络解决方案
fiber_naddod的博客
11-03 3234
InfiniBand (IB) 是一个计算机网络通信标准，在高性能计算（HPC）领域有广泛的应用，可以提供高吞吐带宽和超低的网络传输时延。IB可以用于计算机内部或外部的数据互联。通过直连或者交换机互联的方式，提供服务器与存储，存储设备之间的高性能网络。IB网络可以通过交换机网络实现横向扩展，适应各种规模的组网需求。图一 InfiniBand速率演进。
AI算力网络与通信：高性能计算的挑战与机遇
最新发布
AI天才研究院
07-04 446
本分析深入探讨了AI算力网络与通信领域的技术挑战与战略机遇，构建了从基础理论到前沿应用的完整知识框架。随着深度学习模型规模呈指数级增长（从2012年AlexNet的6000万参数到2023年GPT-4的万亿级参数），传统计算架构面临算力供需失衡、通信瓶颈和能效危机的三重挑战。本文系统分析了算力网络的理论基础，提出了"计算-通信-存储"三元协同架构模型，并深入探讨了光互联、片上网络(NoC)、智能网卡等关键技术突破点。
【nvidia-H100-ib排障实战2】：服务器 InfiniBand 网络性能问题深度分析
jundao1997的专栏
06-23 229
通过以上分析，h3-3 服务器的核心问题是 mlx5_1 设备性能异常，需从硬件连接、驱动固件、资源配置三方面逐步排查。同时，CPU 频率未锁定在最大值会影响整体网络性能，建议同步优化。完成上述操作后，建议重新进行全设备测试，确保 InfiniBand 网络性能一致性。从测试结果看，h3-3 服务器的 8 个 mlx5 设备中，
Introduction to InfiniBand Architecture.pdf
10-15
Introduction to InfiniBand Architecture.pdf Introduction to InfiniBand Architecture.pdf Introduction to InfiniBand Architecture.pdf
大规模AI计算集群的网络环境需求，Infiniband还是超低时延以太网？
asterfusion的博客
03-27 1639
星融元 CX-N 系列超低时延云交换机作为一款通用的以太网设备，从底层交换芯片到上层的各种协议栈皆面向低时延场景深度优化，可提供 Port to Port ~400ns 的转发时延，全速率下（10G~400G）转发时延相同，并且支持多种数据中心高级功能（如PFC、ECN等）以避免丢包和网络拥塞。
替代Infiniband 交换机，星融元带来新一代HPC网络解决方案，优势明显
asterfusion的博客
02-09 475
为了解决掣肘客户已久的难题，星融元推出替代IB的新一代HPC高性能计算网络解决方案，同样的性能，更低的价格，为广大客户提供了更具优势的选择。
算力机房选择RoCE还是InfiniBand（IB）
流水_鱼鱼的博客
06-28 2844
算力机房选择RoCE还是InfiniBand（IB）
IB网卡配置过程（转载）
qq_32379851的博客
11-15 5145
其中 HWADDR与UUID可以不写，写的话要自己给ifcfg-ib0生成一个UUID，#uuidgen eth1，最主要的就是一定要加TYPE=InfiniBand，博主在这块浪费了好久时间，做了很多无用功，不过也搞清楚了这中间的部分细节。设置好了通过ip a可以查看。客户端执行qperf 10.0.0.5 ud_lat ud_bw rc_rdma_read_bw rc_rdma_write_bw uc_rdma_write_bw tcp_bw tcp_lat udp_bw udp_lat可以看到。
白皮书:InfiniBand简介
lo_ong的博客
07-30 8044
原文链接：Introduction to InfiniBand 摘要 InfiniBand是一种功能强大的新架构，旨在支持Internet基础设施的 I/O 连接。 所有主要OEM服务器供应商都支持InfiniBand作为扩展服务器以及在服务器中创建下一代 I/O 互连标准的手段。 大批量工业标准 I/O互连首次扩展了传统“盒中”总线的作用。 InfiniBand 独一无二的提供“盒中”背板解决方...
InfiniBand -- 无限带宽技术（简称IB）
热门推荐
Jian Sun_的博客
06-03 1万+
IB
NVIDIA BF2网卡进行网络隔离及ib_traffic压测
weixin_46456610的博客
05-24 773
例如：BF3调试及工具安装跳过；主要介绍网络隔离IP设置#如四张BF3单口400G网卡对联，进行网络IP隔离设置`提示：这里描述项目中遇到的问题：单机台网卡互联默认无法进行流量转发；故借用防火墙规则进行网络IP隔离例如：网卡信息如下。
DDNA3I解决方案：优化NVIDIA DGX系统的高性能架构
"DDNA3I解决方案是一款专为匹配NVIDIA DGX系统设计的高性能、可扩展的基础架构，旨在加速大规模人工智能（AI）、数据分析和高性能计算（HPC）应用。该解决方案通过集成DDNAI400X2设备、NVIDIA DGX系统以及NVIDIA ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

范桂飓

文章对您有帮助就请一键三连：）

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值