DatenLord｜在Rust中管理RDMA内存

Rust语言在RDMA内存管理中的应用实践
原创 已于 2022-08-05 19:37:02 修改 · 313 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#大数据 #rust #开发语言 #后端

于 2022-07-08 17:35:46 首次发布
本文探讨了Rust语言如何利用其内存安全特性解决RDMA内存管理和远端访问的挑战。通过介绍MemoryRegion、ProtectDomain、QueuePair等概念，阐述了RDMA内存管理的依赖关系，并提出利用Rust的AllocatorAPI和ReferenceCount特性来确保内存的安全使用。此外，文章还提出了通过定制的Future实现对远端访问的控制，以防止内存长时间占用导致的泄漏问题。最后，作者分享了一个RustRDMA封装项目，以促进社区对此领域的研究和发展。

作者 | 施继成 

转自《Rust Magazine中文精选》

目录

RMDA 是近年越来越热门的高速网络传输协议，被广泛应用于超算中心和高端存储领域。RDMA 的全称为 Remote Direct Memory Access，即允许本地内存被远端机器直接访问，该访问不经过被访问机器的操作系统，直接由网卡代为完成。正式因为网卡完成了大部分的数据传输工作，操作系统的负载被降低，使得其在大量数据传输的情况下具有更好的拓展性（scalability）。

为了保证远端能够正确和安全地访问本地内存，RDMA 协议中有一系列规范来约束用户的访问，下面来简单介绍一下。

RDMA的内存管理

最低0.47元/天 解锁文章
DatenLord | Rust实现RDMA
DatenLord的博客
07-07 404
RDMA是常⽤于⾼性能计算(HPC)领域的⾼速⽹络，在存储⽹络等专⽤场景也有⼴泛的⽤途。RDMA最⼤的特点是通过软硬件配合，在⽹络传输数据的时候，完全不需要CPU/内核参与，从⽽实现⾼性能的传输⽹络。最早RDMA要求使⽤InfiniBand (IB)⽹络，采⽤专⻔的IB⽹卡和IB交换机。现在RDMA也可以采⽤以太⽹交换机，但是还需要专⽤的IB⽹卡。虽然也有基于以太⽹卡⽤软件实现RDMA的⽅案，但是这种⽅案没有性能优势。............
Datenlord | Rust实现RDMA异步编程（二）：async Rust 封装 UCX 通信库
DatenLord的博客
07-12 755
UCX 是一个高性能网络通信库，它作为 MPI 所依赖的通信模块之一在高性能计算领域得到广泛的使用。UCX 使用 C 语言编写，为了在 Rust 项目中使用它，我们需要将它的 C 接口包装成 Rust 库。在这个过程中我们充分利用了 Rust 的杀手级特性—— async-await 协程来包装异步 IO 接口，从而极大降低了应用的编程复杂度。去年我们用 Rust 实现的高性能分布式文件系统 MadFS，底层就使用了我们自己包装过的 UCX 作为通信模块，它在大规模 RDMA 网络上展现出了良好的性能。UC
【RDMA】14. RDMA之Memory Window
我的笔记本
09-26 3939
原文：14. RDMA之Memory Window - 知乎 本文是“RDMA杂谈”专栏文章的第14篇，欢迎转载，转载请注明出处。 我们在Memory Region一文中介绍过Memory Region，它是一片由用户注册的特殊的内存区域：一方面其中的内容不会被换页到硬盘中，另一方面RDMA网卡中记录了它的地址转换关系，使得硬件拿到用户指定在WR中的虚拟地址之后找到对应的物理地址。 本文我们来讲解Memory Window的概念，它是一种基于Memory Region的、更灵活的内存管理单元。除了
14. RDMA之Memory Window
weixin_39094034的博客
10-31 655
Memory Window简称MW，中文就翻译成内存窗口吧。是一种由用户申请的，用于让远端节点访问本端内存区域的RDMA资源。
[RDMA]Memory Protection
jj0709的博客
01-15 1918
本文主要介绍内存的保护机制，包括MR（Memory Region）、MW（Memory Window）以及Memory Protection Domain以应对本地访问冲突、远程访问冲突、违反访问权限或未经授权访问远程UD QP。
Memory Region & Memory Window （五）
zz2633105的博客
10-11 2902
Type 1Type 2AType 2B关联关系PDQPPD + QPR_Key的key域段归属驱动+硬件用户用户绑定方式Bind MW 绑定后之前的R_Key自动失效Post Send Bind MW WR 绑定前需要先使之前的R_Key无效化Post Send Bind MW WR 绑定前需要先使之前的R_Key无效化是否支持零长度是否否是否支持Invalidate否是是关联的QP是否可以被销毁否是。
高性能I/O革命：从阻塞到零拷贝的异步风暴
最新发布
技术分享
07-30 1086
摘要： 本文探讨I/O性能优化的核心技术，分析同步阻塞模型的瓶颈（线程阻塞、内存拷贝、上下文切换），提出异步I/O与零拷贝解决方案。重点介绍Linux的io_uring异步机制和mmap内存映射技术，通过共享内存和环形队列实现零拷贝文件操作。文章包含C++代码示例，展示io_uring与mmap的协同使用，并对比传统同步方案的性能差异。最后扩展讨论RDMA远程传输的C++封装思路，为高吞吐场景提供完整优化路径。核心是通过系统级调优（如strace分析）和新型异步架构，实现从同步模型到高性能I/O的平滑重构。
Datenlord | Rust实现RDMA异步编程（一）：基于epoll实现RDMA 异步操作
DatenLord的博客
07-12 475
作者：王璞 / 后期编辑： 张汉东RDMA是一套高性能网络协议栈，多用于高性能计算、高性能存储领域。RDMA的library是用C实现的，但是没有很好用的Rust的binding，不方便Rust开发者使用。于是我们正在封装一层符合Rust风格、便于Rust开发者使用的RDMA Rust binding。特别的，异步编程是近几年很受关注的编程方式，用Rust异步编程来实现IO操作，可以避免操作系统的进程上下文切换，提高性能，而且Rust的异步编程框架也在逐步成熟和完善。本系列文章探讨下如何用异步的方式实现RD
DatenLord｜重新思考Rust Async如何实现高性能IO
DatenLord的博客
07-10 352
长期以来，计算机系统IO的速度一直没能跟上CPU速度的提升，相比而言IO往往成为系统的性能瓶颈，计算任务等待IO存取数据，成为高性能系统的一大性能瓶颈。本文先剖析IO性能瓶颈的根源，然后举例说明如何解决IO瓶颈，最后简要介绍我们在高性能IO方面的尝试。目录IO性能瓶颈如何实现高性能IO我们的尝试当用户程序执行IO操作时，绝大多数情况下是调用操作系统内核提供的系统调用来执行IO操作，最常见的IO系统调用是read和write。.........
如何在生产环境排查 Rust 内存占用过高问题
跨链技术践行者
04-02 2390
内存安全的 Rust，虽然基本不会出现内存泄漏，但如何合理分配内存，是每个复杂应用都要面临的问题。往往随着业务的不同，相同的代码可能会产生不同的内存占用。因此，有不小的概率会出现内存使用过多、内存逐渐增长不释放的问题。 本文我想分享一下，我们在实践过程中遇到的关于内存占用过高的问题。对于这些内存问题，在本文中会做出简单的分类，以及提供我们在生产环境下进行排查定位的方法给大家参考。 本文最先发表于 RustMagazine 中文月刊 (蚂蚁集团 ｜ 如何在生产环境排查 Rust 内存占用过高问题 -
DatenLord｜创业公司为什么要选 Rust 做 RDMA 库？
DatenLord的博客
07-14 244
嘉宾：施继成编辑：李慧文RDMA（Remote Direct Memory Access）是近年越来越热门的高速网络传输协议，被广泛应用于超算中心和高端存储领域，用于缩短网络延迟、提高网络带宽。但是 RDMA 的 API 接口非常难以使用，且错误地使用很容易造成程序错误甚至数据丢失。跨云存储厂商达坦科技（DatenLord）的联合创始人施继成曾在 Google、微软和阿里巴巴等一线大厂从事操作系统和分布式系统的研究和开发工作，为了更好地专注于自己喜欢的领域选择了创业。同时他也是QCon+案例研习社的讲师，将
【转载】分布式存储技术-RMDA
ycx1225的专栏
02-13 1179
深入浅出全面解析RDMA：提升系统网络处理能力的新技术 知乎上看到的，很全面，欢迎大家去原地址访问：围城欢迎大家follow：https://github.com/Tjcug 317 人赞同了该文章 RDMA(RemoteDirect Memory Access)技术全称远程直接内存访问，就是为了解决网络传输中服务器端数据处理的延迟而产生的。它将数据直接从一台计算机的内存传输到另一台计算机...
RDMA简要介绍
baidu_14946515的博客
11-18 9019
  1. RDMA基本知识 RDMA是一种使一台计算机可以直接将数据从内存通过网络传送到另一台计算机内存中的技术，其流程是首先将数据通过DMA方式拷贝到NIC(网卡)，再通过网络传输到远端NIC，然后直接到达远端内存，而无需操作系统多次在缓冲区指间拷贝数据和CPU参与，因而能腾出总线空间和 CPU周期用于改进应用系统性能，从而减少对带宽和处理器开销的需要，显著降低了时延。RDMA的核心优势是内...
RDMA-Aware 编程概述--基本概念
趁着这大好时光，多看看。
03-28 4345
RDMA-Aware 编程概述 @(RDMA翻译资料) 机器翻译，大概能理解。 VPI架构允许用户直接访问硬件。Mellanox提供动态加载库，通过VPI接口直接访问硬件。该文档包含verbs和相关的输入，输出，描述和功能性作为被暴露出的操作系统编程接口。 Note:编程手册manual和verbs仅在用户空间有效。参见内核空间verbs的头文件 通过verbs编程可以自定义和优化RDM...
Rust： 编译器驱动开发
Phodal's zenthink
07-06 1600
用 Rust 来写个应用，这个想法颇久了。之前呢，要么找不到合适的场景，要么觉得 Rust 门槛有些高。直到最近呢，刚好对底层编程有点想法，便想着用这门语言做点东西玩玩。考虑到，我用这门...
Rust for Linux：世界上最大的软件项目的内存安全问题有办法了！
开源吞噬世界。
06-27 5867
Rust 成为Linux 内核第二官方语言，原是为了解决内存安全问题！
cpu高 rust腐蚀_介绍一个开发中的 Rust 版 lock free concurrent hashmap
weixin_31574891的博客
12-27 419
本人目前的工作因为涉及到一些内存中的高并发缓存实现，有用到 Cliff Click 大神早年的作品，即 Java 版的NonblockingHashMap, 号称可以 scale 到 768 个 CPU。其思路主要是基于基础的 CAS(比较-交换)原语和精心设计的状态机，来实现 lock-free 的高并发哈希表。当然 lock free 不等于 wait free，但细节这里就不讨论了。因为自己...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

达坦科技DatenLord

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值