RDMA笔记

已于 2024-12-01 21:35:31 修改
阅读量471 收藏 4
点赞数 4
分类专栏： 数字IC设计方法学 文章标签： 网络 tcp/ip 服务器 网络协议 数字IC
于 2024-10-16 23:38:40 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/Starry__/article/details/142994278
版权

目录

阅读RDMA相关资料，从硬件开发角度对RDMA作读书笔记。

【RDMA】RDMA 学习资料总目录
Linux高性能网络详解：从DPDK、RDMA到XDP

● RDMA理论

理论，用于入门：

【RDMA】RDMA 学习资料总目录

全网最全面的RDMA拥塞控制教程

● InfiniBand and RoCE v2

RDMA报文格式包括如下4种

在这里插入图片描述

  • RoCE v2协议介绍：

科普文：软件架构网络系列之【RDMA技术实现：一文搞懂 RoCE v2】

科普文：软件架构网络系列之【RDMA技术实现之RoCEv2工作过程】

Linux高性能网络详解：从DPDK、RDMA到XDP

  • 各协议官方原文见下：

IB Specification Vol 1&Vol 2-Release-1.4-2020-04-07.rar

● Corundum NIC

Corundum开源100G网卡调试总结

业界第一个真正意义上开源100 Gbps NIC Corundum介绍

● 100G Ethernet NIC

工程：

FPGA实现 NIC 100G 网卡，GTY+100G Ethernet Subsystem架构，纯verilog代码实现，提供2套工程源码和技术支持

xilinx rdma实现100G以太网开发笔记，支持标准ROCE V2协议，与PC大带宽通信，支持麦乐斯全系列网卡

● Limago 100GbE Ethernet framework with TCP/IP support

探索Limago：100GbE以太网框架与TCP/IP支持

● RDMA app

用于RDMA的Linux应用程序

● rdma-example

提供了一个简单的RDMA的应用程序

RDMA示例项目推荐：高效网络通信的利器

● RDMA Driver(User)

用于RDMA的Linux用户态程序，Verbs API

● RDMA-CORE

提供了用于RDMA网卡的用户态子程序

如何使用rdma-core来实现RDMA操作

● RDMAmojo

Verbs API中的函数可以在该网站中查到

RDMAmojo – blog on RDMA technology and programming by Dotan Barak

● RDMA Driver(Kernel)

用于RDMA的Linux内核态程序

● HNS

RDMA Linux hns驱动分析

● erdma

Alibaba Elastic RDMA 驱动项目教程

RDMA-典型编程步骤
qq_38158479的博客
10-25 589
rdma-编程步骤
RDMA原理分析、对比和技术实现解析.rar
06-03
第1章 RDMA背景简介 ............................................. 5 第2章 哪些网络协议支持RDMA ..................................... 8 2.1 InfiniBand(IB)........................................... 8 2.2 RDMA过融合以太网(RoCE)................................... 8 2.3 互联网广域RDMA协议(iWARP)................................ 8 第3章 RDMA技术优势 ............................................. 9 第4章 RDMA有哪些不同实现 ...................................... 10 第5章 RDMA有哪些标准组织 ...................................... 14 第6章 应用和RNIC传输接口层 .................................... 18 6.1 内存Verbs（Memory Verbs）............................... 19 6.2 消息Verbs（Messaging Verbs）............................ 20 第7章 RDMA传输分类方式 ........................................ 20 7.1 RDMA原语................................................ 21 7.2 RDMA 队列对（QP）....................................... 23 7.3 RDMA完成事件............................................ 23 7.4 RDMA传输类型............................................ 24 7.5 RDMA双边操作解析........................................ 26 7.6 RDMA单边操作解析........................................ 27 7.7 RDMA技术简单总结........................................ 27 第8章 InfiniBand技术和协议架构分析 ............................ 29 8.1 InfiniBand技术的发展.................................... 29 8.2 InfiniBand技术的优势.................................... 30 8.3 InfiniBand基本概念...................................... 32 8.4 InfiniBand协议简介...................................... 33 8.4.1 物理层 ............................................ 34 8.4.2 链路层 ............................................ 34 8.4.3 网络层 ............................................ 34 8.4.4 传输层 ............................................ 35 8.4.5 上层协议 .......................................... 35 8.5 IB应用场景.............................................. 36 第9章 InfiniBand主流厂商和产品分析 ............................ 37 9.1 InfiniBand网络和拓扑.................................... 38 9.2 软件协议栈OFED.......................................... 42 9.3 InfiniBand网络管理...................................... 43 9.4 并行计算集群能力........................................ 44 9.5 基于socket网络应用能力.................................. 45 9.6 存储支持能力............................................ 45 9.7 Mellanox产品介绍........................................ 46 9.8 Infiniband交换机........................................ 48 9.9 InfiniBand适配器........................................ 51 9.10 Infiniband路由器和网关设备............................. 52 9.11 Infiniband线缆和收发器................................. 53 9.12 InfiniBand主要构件总结................................. 54 9.13 InfiniBand对现有应用的支持和ULPs支持................... 55 第10章 RDMA over TCP(iWARP)协议和工作原理 ..................... 56 10.1 RDMA相关简介........................................... 57 10.2 RDMA工作原理........................................... 59 10.3 RDMA 操作类型.......................................... 61 10.4 RDMA over TCP详解...................................... 61 10.5 RDMA标准组织............................................ 7 第11章 RoCE（RDMA over Converged Ethernet）原理 ............... 65 第12章 不同RDMA技术的比较 ..................................... 67 12.1 IB和TCP、Ethernet比较.................................. 69 12.2 RoCE和InfiniBand比较................................... 70 12.3 RoCE和IB协议的技术区别................................. 71 12.4 RoCE和iWARP的区别...................................... 71 第13章 Intel Omni-Path和InfiniBand对比分析 .................... 72 13.1 Intel True Scale Fabric介绍............................ 73 13.2 Intel True Scale InfiniBand产品........................ 74 13.3 Intel Omni-Path产品.................................... 76 第14章 RDMA关键技术延伸 ....................................... 80 14.1 RDMA指令的选择......................................... 80 14.2 慎用atomic类指令....................................... 81 14.3 减少交互次数........................................... 82 14.3.1 Wr 聚合 .......................................... 82 14.3.2 SGE 聚合 ......................................... 82 14.3.3 使用imm数据 ...................................... 83 14.3.4 使用inline数据 ................................... 83 14.3.5 CQE中使用inline数据 .............................. 83 14.3.6 WC聚合 ........................................... 84 14.4 运行模式选择........................................... 84 14.4.1 连接的模式 ....................................... 84 14.4.2 运行模式 ......................................... 85 14.5 性能与并发............................................. 86 14.6 避免CPU缓存抖动........................................ 87 14.7 避免芯片内部的缓存Miss................................. 87 14.8 时延的隐藏............................................. 88 14.8.1 利用Prefetch预取指令 ............................. 88 14.8.2 异步交互操作优先 ................................. 88 14.9 RDMA性能分析........................................... 89
深入浅出全面解析RDMA
liukuan73的专栏
09-24 1387
转载自：https://blog.youkuaiyun.com/qq_21125183/article/details/80563463 RDMA(RemoteDirect Memory Access)技术全称远程直接内存访问，就是为了解决网络传输中客户端与服务器端数据处理的延迟而产生的。它将数据直接从一台计算机的内存传输到另一台计算机，无需双方操作系统的介入。这允许高吞吐、低延迟的网络通信，尤其适合在大规模并行计算机集群中使用。RDMA通过网络把资料直接传入计算机的内存中，将数据从一个系统快速移动到远程系统内存中，
【RDMA】技术详解（一）：RDMA概述
热门推荐
bandaoyu的note
01-20 6万+
原文：https://blog.youkuaiyun.com/qq_21125183/article/details/86522475 1. DMA和RDMA概念 1.1 DMA DMA(直接内存访问)是一种能力，允许在计算机主板上的设备直接把数据发送到内存中去，数据搬运不需要CPU的参与。 传统内存访问需要通过CPU进行数据copy来移动数据，通过CPU将内存中的Buffer1移动到Buffer2中。DMA模式：可以同DMA Engine之间通过硬件将数据从Buffer1移动到Buffer2,而不需要操作系统
rdma 编程详解
02-14 3215
1.相关名词解释 1.1 rdma-core 指开源RDMA用户态软件协议栈，（用户空间的驱动）包含用户态框架、各厂商用户态驱动、API帮助手册以及开发自测试工具等。 rdma-core在github上维护，我们的用户态Verbs API实际上就是它实现的。https://github.com/linux-rdma/rdma-core 1.2 kernel RDMA subsystem 指开源的Linux内核中的RDMA子系统，（内核空间的驱动）包含RDMA内核框架及各厂商的驱动。 RDMA子系统.
RDMA技术详解——RDMA核心概念
咸鱼弟的博客
08-22 2961
1.1 Memory Registration(MR) | 内存注册 RDMA 就是用来对内存进行数据传输。那么怎样才能对内存进行传输，很简单，注册。 因为RDMA硬件对用来做数据传输的内存是有特殊要求的。 在数据传输过程中，应用程序不能修改数据所在的内存。 操作系统不能对数据所在的内存进行page out操作 – 物理地址和虚拟地址的映射必须是固定不变的。 注意无论是DMA或者RDMA都要求物理地址连续，这是由DMA引擎所决定的。 那么怎么进行内存注册呢？ ...
RDMA官方文档学习笔记（一）
Xinzhaohaha的博客
07-20 1690
RDMA官方文档学习笔记（一） RDMA 编程 此文当分为 1.RDMA结构概述（介绍支持RDMA的几种网络技术） 2.RDMA编程概述 3.4.介绍了IB结构提出的两个底层函数库API，通过这些API，我们可以实现数据传输 5.介绍了RDMA API 6.介绍了VPI API各种报错内容 7.8.提供了RDMA编程的两个例子 本笔记讨论第一二章内容，笔记（二）讨论编程例子 笔记格式为，标题下加点的归自己的理解，下文为官方文档翻译。 对RDMA官方文档前两章内容基本没有做任何阉割 我基本在每一个难理解的概念
如何基于rdma-core通过gdb调试RMDA代码
最新发布
weixin_42581825的博客
08-16 442
在编写RDMA代码时，同时是使用ibv_verbs进行编程，需要在.c文件顶部调用<infiniband/verbs.h>这个头文件，但是我们在调试时，如通过GDB进行调试时，无法进入函数内部进行调试，如ibv_create_qp这个API，我们无法进入其内部。这是因为我们应该进入libibverbs内部进行调试，而不是<infiniband.verbs.h>中，下面是具体的调试方式。
RDMA学习笔记-IB五层网络协议和报文结构
u014114310的博客
06-20 8725
Reference InfiniBand Architecture Specification Volume 1, Release 1.3 文章目录IBA 网络协议分层1.链路层1.1 LRH1.2 ICRC1.3 VCRC2.网络层(GRH)3.传输层3.1 BTH3.2 extended transport header4. 报文结构4.1 send request4.2 RDMA Write request4.3 RDMA Read request4.4 ACK4.5 Atomic operatio
学习笔记 RDMA
jojozym的博客
04-09 501
https://mp.weixin.qq.com/s?__biz=MzAxNzU3NjcxOA==&mid=2650717964&idx=1&sn=2b06cbeb6e9028c71b30eb37f38a3b9d&scene=21#wechat_redirect https://blog.youkuaiyun.com/btb5e6nsu1g511eg5xeg/article/...
RDMA RoCEv2标准协议快速掌握.rar
03-17
详细分析介绍RDMA RoCEv2标准协议，报文格式，消息内容。原创总结InfiniBand Architecture Secification Volume1 Release 1.2.1 标准的关键点. 力求读者5分钟掌握RDMA标准。同时附有标准原文档，包括RoCEv2 标准。
rdma优势及Roce简介.pdf
06-22
介绍rdma及其roce优势，来源迈络斯公司技术分享，可以熟悉下
corundum:开源，高性能，基于FPGA的NIC
05-13
刚玉自述文件 GitHub存储库： : Google网上论坛： ： 介绍 Corundum是一种基于FPGA的开源高性能NIC。 功能包括高性能数据路径，10G / 25G / 100G以太网，PCI Express Gen 3，自定义，高性能，紧密集成的PCIe DMA引擎，许多（1000+）发送，接收，完成和事件队列，分散/收集DMA，MSI中断，多个接口，每个接口多个端口，每个端口的传输调度，包括高精度TDMA，流哈希，RSS，校验和卸载以及本机IEEE 1588 PTP时间戳。 包含一个Linux驱动程序，该驱动程序与Linux网络堆栈集成在一起。 广泛的仿真框架可促进开发和调试，该框架涵盖整个系统，从一侧的驱动程序和PCI Express接口的仿真模型到另一侧的以太网接口。 刚玉具有几种独特的建筑特征。 首先，发送，接收，完成和事件队列状态被有效地存储在Block
RDMA学习笔记-编程（Verbs API）
u014114310的博客
06-14 1403
RDMA学习笔记-编程 备注：非原创，主要基于网上资料进行整理 文章目录Verbs API设备管理接口资源管理（PD/MR/QP/CQ...）中断处理连接管理数据面Example参考资料 Verbs API 设备管理接口 ibv_get_device_list /*用户获取可用的RDMA设备列表，会返回一组可用设备的指针*/ ibv_open_device /*打开一个可用的RDMA设备，返回其上下文指针（这个指针会在以后用来对这个设备进行各种操作）*/ ibv_query_device /*查询一个
【RDMA】intel 因特尔RDMA 驱动和ibverslib 库安装笔记
小鱼菜鸟的博客
04-27 3765
目录 关键步骤 详细步骤和说明 编译和安装 确认RDMA功能 iWARP / RoCEv2选择 流控制设置 ECN配置 内存需求 资源限制配置文件 RDMA统计 perftest测试工具 动态追踪 动态调试 使用tcpdump捕获RDMA流量 intel 中文官网 报错处理 IP配置 查看device和网口的对应关系 ...
学习笔记-RDMA技术上篇
lm236236的博客
12-23 1299
最近在看博通的智能网卡时候，看到了RoCE(RDMA over Converged Ethernet)技术，对于这种陌生的名词，第一反应当然是百度了，然后记到优快云这个小本本上。 要了解RoCE,首先就要了解RDMA。 一、什么是RDMA RDMA(RemoteDirect Memory Access)技术全称远程直接内存访问，就是为了解决网络传输中客户端与服务器端数据处理的...
[RDMA-高级计算机网络report] Congestion Control for Large-Scale RDMA Departments
xiongyuqing的博客
03-01 1266
本文主要解决的问题是在RoCEv2体系中，基于优先级的拥塞控制PFC是一种粗粒度的机制。它在端口（或端口加优先级）级别上运行，并且不区分流。PAUSE机制是基于每个端口（和优先级）的，而不是基于每个流的。这将导致Unfairness和Victim flow等问题。
rdma rocev2报文格式总结
qq_38158479的博客
02-15 9884
rdma rocev2报文格式总结
【RDMA】17. RDMA之RDMAP(Remote Direct Memory Access Protocol)--未消化
bandaoyu的note
06-11 1078
RDMA】RDMA 学习资料总目录_bandaoyu的笔记-优快云博客SavirRDMA 分享1. RDMA概述https://blog.youkuaiyun.com/bandaoyu/article/details/112859853https://zhuanlan.zhihu.com/p/1388747382. 比较基于Socket与RDMA的通信https://blog.youkuaiyun.com/bandaoyu/article/details/1128613993. RDMA基本元素和编程基础https://blog
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Starry丶

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值