学习笔记 RDMA

RDMA(远程直接内存访问)通过硬件和网络技术,实现服务器间内存的直接读写,降低处理和传输延迟,广泛应用于机器学习、存储系统和GPU异构计算。其主流实现包括Infiniband、RoCE和iWARP,其中RoCE在以太网解决方案中表现出更低的延时、更高的吞吐率和更低的CPU负载。RDMA在存储系统中能够高效地移动数据,无需操作系统干预。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

https://mp.weixin.qq.com/s?__biz=MzAxNzU3NjcxOA==&mid=2650717964&idx=1&sn=2b06cbeb6e9028c71b30eb37f38a3b9d&scene=21#wechat_redirect
https://blog.youkuaiyun.com/btb5e6nsu1g511eg5xeg/article/details/84801428
以上是引用链接,感谢!

什么是RDMA

RDMA (Remote Direct Memory Access)是远程直接内存访问。
利用相关的硬件和网络技术,服务器1的网卡可以直接读写另一个服务器2的内存,最终达到高带宽,低延迟和低资源利用率的效果。

RDMA降低了什么延迟

在这里插入图片描述
1、处理延迟:传统TCP/IP需要进行多层封装和分用,处理报头属于CPU处理开销,而RDMA可以不用内核参与封装、分用
2、传输延迟:RDMA是一种零拷贝技术,由于没有将数据拷贝到内核态并处理数据包头部的过程,传输延迟会显著减小。

RDMA的常用领域

1.机器学习
2.为存储系统和计算系统加速,充分利用高带宽低延迟以及释放CPU通信处理。
3.为GPU异构计算通信加速,充分利用Zero Copy的特性,减少数据通路中的拷贝次数,大大降低GPU之间的传输延迟。

RDMA的三种主流实现

Infiniband、RoCE

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值