mmap其实并没有那么好

最新推荐文章于 2025-06-25 11:44:58 发布
置顶 最新推荐文章于 2025-06-25 11:44:58 发布
阅读量1.8w 收藏 28
点赞数 11
CC 4.0 BY-SA版权
分类专栏： 经验积累 linux下C编程 文章标签： mmap linux
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/lotluck/article/details/81632071

现网问题

关于mmap的基本操作自行google去吧， 一抓一大把，99%基本上夸mmap是有多好多快，mmap快是因为建立了页到用户进程的虚拟空间映射，以读取文件为例，避免了页从内核态拷贝到用户态， 少了一次拷贝，而且在内存中操作，从这个层面看，mmap是屌屌的。但是在现网使用， mmap带来很多问题。
这里写图片描述

这里写图片描述

图一： 内存吃紧，swap也是关闭， 该进程使用内存状况
图二： 该进程 mmap 的索引 放在sda盘

带宽也就跑了3G左右 IO快到80了 SSD盘没有过期，上去观察的现象： 内存全部被该进程吃掉， 没有一点buffer/cache， swap也是关掉的。 iostat观察io次数特别多，排除写日志带来的io次数多

网上解决方案：

调研网上mmap相关资料，也出现过类似情况

使用mmap映射时指定MAP_LOCKED参数：指定此参数后mmap()函数会调用mlock()将内存区域锁定，防止被换出到磁盘，但是如果不是root账号只能锁定RLIMIT_MEMLOCK大小的内存(x86_64下默认为64K)，需要调大此参数或修改为ulimited

mmap文件映射方式导致系统平响异常情况分析

但是现网验证，并没有效果， 调研网上资料mmap MAP_LOCKED参数， 实际上调用的是mlock这个系统调用。看linux代码， mlocked的页面也不是真正的锁住，最后还是会采用LRU算法，内存吃紧的情况下，这也就是废了。
这里写图片描述

网上mmap文章

认真分析mmap：是什么 为什么 怎么用

结论

  1. mmap文件更新操作多， mmap避免两态拷贝的优势就被摊还， 最后还是落在大量的脏页回写及其引发的随机io上。大量io又引发了util飙升。
  2. 内核功能，通常都运行得不太理想。 最大的问题是缺乏监控机制。 不好干预内部运行
  3. 有事没事直接翻内核代码比看网文章更靠谱点
嵌入式系统中mmap函数详解
嵌入式技术开发
07-01 267
使用mmap处理大文件要注意一点，如果你的系统是32位的话，进程的地址空间就只有4G，这其中还有一部分预留给操作系统，因此在32位系统下可能不足以在你的进程地址空间中找到一块连续的空间来映射该文件，在64位系统下则无需担心地址空间不足的问题，这一点要注意。这个优势在于处理大文件场景，这里的大文件指的是文件的大小超过你的物理内存，在这种场景下如果你使用传统的read/write，那么你必须一块一块的把文件搬到内存，处理完文件的一小部分再处理下一部分。
RK3568平台开发系列讲解（驱动基础篇）mmap系统调用详解
内核笔记
04-14 1440
📢本文将详细介绍mmap系统调用。
【共享内存】mmap、shm和MappedByteBuffer性能比较
C++，存储，模糊测试，Linux
11-09 2678
引子 由于近期需要写一个java程序和一个已有的c程序（AFL）进行本地通信，使用udp发送数据感觉效率不是很高。另外afl本身使用shm共享物理内存获得待测试子程序的执行路径信息，而java程序共享内存只有文件映射内存的方式，类似与c里面的mmap。因此考虑将AFL的共享内存机制改为mmap，本文将测试linux c 中 mmap、shm和java nio MappedByteBuffer性能，来评估修改AFL共享内存方式是否会影响其本身的性能。 共享内存背景 mmap与shm 内存映射函数mmap, 它
mmap优缺点
shenyanxxxy的专栏
08-06 9338
mmap这个函数是和page cache有密切关系的函数之一。 他将一个文件映射到一块内存区域当中。mmap的特点是按需调页。最开始只申请vma，并不调真正的页。当对某些页进行引用的时候，会引起一个缺页中断，再将页面调入到内存当中，这样避免了对内存的浪费。 优点是：    操作文件就像操作内存一样，适合于对较大文件的读写。 缺点是：  
Docker快速入门上手教程（保姆式），含docker所有常用命令大全（详细）！
Stuomasi_xiaoxin的博客
06-25 2677
摘要：本文提供了一份Docker从入门到实战的完整指南。首先解释了Docker的核心概念（镜像、容器、仓库）及其解决环境一致性的价值。通过5分钟部署Nginx网站的实战案例，详细演示了从搜索镜像到删除容器的完整流程。最后附上超全面的Docker命令手册，涵盖镜像管理、容器操作等常见场景。文章采用"保姆式"教学风格，帮助开发者快速掌握这一现代化部署技术，解决"在我机器上能运行"的经典问题。
mmap的优缺点:
mingchan的专栏
09-16 2580
引用：http://lkml.indiana.edu/hypermail/linux/kernel/0004.0/0728.html People love mmap() and other ways to play with the page tables to  optimize away a copy operation, and sometimes it is worth
认真分析mmap：是什么 为什么 怎么用
weixin_30493401的博客
07-20 5131
mmap基础概念 mmap是一种内存映射文件的方法，即将一个文件或者其它对象映射到进程的地址空间，实现文件磁盘地址和进程虚拟地址空间中一段虚拟地址的一一对映关系。实现这样的映射关系后，进程就可以采用指针的方式读写操作这一段内存，而系统会自动回写脏页面到对应的文件磁盘上，即完成了对文件的操作而不必再调用read,write等系统调用函数。相反，内核空间对这段区域的修改也直接反映用户空间，从而可以实...
mmap与直接IO（read、write）的效率比较
热门推荐
qq100440110的专栏
08-03 1万+
不能简单的说哪个效率高，要看具体实现与具体应用。 无论是通过mmap方式或read/write方式访问文件在内核中都必须经过两个缓存：一个是用address_space来组织的以页为基础的缓存；一个是以buffer来组织的缓存，但实际上这两个缓存只是同一个缓冲池里内容的不同组织方式。当需要从文件读写内容时，都经过 address_space_operation中提供的函数也就是说路径是一致的。如
Linux内核 mmap内存映射的实现原理
一枚菜鸡
07-28 909
在研究Linux内核以及Linux系统编程的时候，经常会碰到mmap内存映射，mmap函数是实现高性能编程的一个关键点。
mmap&shm
weixin_44233369的博客
07-18 810
共享内存允许两个或多个进程共享一给定的存储区，因为数据不需要来回复制，所以是最快的一种进程间通信机制。共享内存可以通过mmap()映射普通文件（特殊情况下还可以采用匿名映射）机制实现，也可以通过系统V共享内存机制实现。应用接口和原理很简单，内部机制复杂。为了实现更安全通信，往往还与信号灯等同步机制共同使用。 1.mmap mmap的机制如：就是在磁盘上建立一个文件，每个进程存储器里面，单独开辟一个...
Linux mmap内存映射
uu_5201314的博客
04-15 2807
四、网上测试实例 （1）demo1 演示一下,将文件/tmp/file_mmap中的字符转成大写，分别使用mmap与read/write二种方法实现。 先创建/tmp/file_mmap文件，该文件写入www.baidu.com，使用strace统计系统调用。 /* @file: t_mmap.c */ #include <stdio.h> #include <ctype.h> #include <sys/mman.h> /mmap munmap/ #include &
mmap()和read()哪个快——
ryder001的专栏
09-06 4184
mmap()和read()哪个快——linuxfb版聚上谈论的开发中的常见误解与陷阱 March 26th, 2012 by gnawux Leave a reply » 本月版聚的规格最后是8人座谈 + 晚饭欢送 hzmangel （@hzmangel, @古月圣）同学南下，座谈比讲幻灯片更轻松了一点，不过，还是讨论了一些严肃问题，很多都是开发中的常见误解和误用。废话少说，一一列出，
mmap拷贝文件与用常规文件IO拷贝文件效率对比
weixin_44816732的博客
09-04 843
  通常我们读写文件时，都是用系统提供的write和read函数，但是我们都知道文件IO函数操作文件流效率要低于mmap，因为mmap相对write/read省去将数据拷贝到用户态的操作。那么他们之间的差距有多大呢，我们来用事实说话。
写mmap内存变慢的原因
Fybon的专栏
09-30 4575
有很多系统读写大文件时用的是这个办法：将大文件mmap到内存，然后直接对内存读写。这样就化read/write为memcpy操作，代码开发上很简便。被修改的内存页由kernel负责挑个时间写入硬盘，程序员不用操心。 但是，最近一些使用了taobao kernel（基于redhat6-2.6.32）的机器，上面那些使用mmap的应用变慢了。我们上线查看，才发现mmap文件里有很多脏
mmap和普通文件读写对比
atarik@163.com
02-19 2600
常规文件系统操作（调用read/fread等类函数）中，函数的调用过程：   1、进程发起读文件请求。 2、内核通过查找进程文件符表，定位到内核已打开文件集上的文件信息，从而找到此文件的inode。 3、inode在address_space上查找要请求的文件页是否已经缓存在页缓存中。如果存在，则直接返回这片文件页的内容。 4、如果不存在，则通过inode定位到文件磁盘地址，将数据从磁盘...
mmap
wuj的专栏
09-23 1209
目录Memory-mapped I/Ommapmprotectmsyncmunmap 说明：内容来自APUE第2版中文版和相关函数的man手册。 Memory-mapped I/O &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;存储映射I/O使一个磁盘文件与存储空间中的一个缓冲区相映射。对缓冲区的操作，相当于对文件的操作。从缓冲区取数据，相当于读文件中的相...
mmap学习
weixin_34281537的博客
04-22 154
rocksdb的WAL文件的具体的实现方式是linux的mmap，如果要主备同步的话，就需要在另一个进程里面读取这个文件，下面记录一下另一个进程查看mmap（MAP_SHARED）的文件的情况。 写的实验代码： #include <fcntl.h> #include <sys/mman.h> #include <stdio.h> #inclu...
mmap详解
zyqash的博客
01-30 2997
mmap（）调用请求内核将fd表示的文件中从offset处开始的len个字节数据映射到内存中。如果包含了addr，表明优先使用addr为内存中的开始地址。访存权限由prot指定，flags指定了其他的操作行为。
我只需要了解C2H时数据先存放在哪里然后通过HDMI传到屏幕的，有没有使用电脑内存/
最新发布
08-02
<think>嗯，用户这次的问题非常具体，是关于XDMA传输架构中数据流向的关键细节。用户想知道在C2H（Card to Host）传输模式下，视频数据是否会经过主机内存中转再输出到HDMI显示器。这涉及到整个视频输出流水线的设计逻辑。 从用户之前的提问历史来看，ta应该是个FPGA开发者或嵌入式视频系统工程师，正在实现基于PCIe的视频输出方案。用户对XDMA-HDMI方案已有基本了解，现在深入到数据传输路径的优化问题。这类细节对系统延迟和性能影响很大，说明用户正在做实际开发而非理论探讨。 关于核心问题：在标准XDMA架构中，C2H传输确实会经过主机内存中转。这是因为： 1）PCIe设备不能直接访问其他外设（如GPU），必须通过DMA将数据写入主机内存 2）HDMI输出通常由GPU负责，需要从显存读取数据 3）存在两次拷贝：设备→内存→显存 不过有优化方案可以绕过内存中转： 1）Linux下可以用DMABUF实现零拷贝，让FPGA直接写入GPU缓冲区 2）Windows下可通过WDDM2.0的CrossAdapter资源共享 3）更激进的方案是让FPGA直接驱动HDMI，但这需要显示器支持直连 用户引用的MHL资料[^1]其实提示了另一种思路：手机通过MHL直连显示器时就不需要内存中转。但PC架构不同，显卡独占显示输出权限。Copybit的引用[^2]则指向安卓图形合成架构，和当前PC场景关联不大。 最后那个计算机组成原理的引用[^3]应该是误触发，但恰好印证了软硬件协同的重要性——就像这里XDMA需要软硬件配合优化传输路径。 用户可能真正关心的是如何降低延迟。如果ta在开发实时视频系统，绕过内存中转将是关键优化点。需要提醒ta注意显卡驱动兼容性问题，比如NVIDIA对第三方设备的DMA限制。</think>在基于XDMA的HDMI输出架构中，**C2H（Card to Host）传输的数据需要经过主机内存中转**，再通过显示系统输出到HDMI显示器。以下是具体流程和技术解析： --- ### **一、数据传输流程** ```mermaid sequenceDiagram FPGA设备->>主机内存: 1. C2H传输（通过PCIe DMA） 主机内存->>显存: 2. 内存→显存拷贝（由GPU驱动完成） 显存->>HDMI控制器: 3. 显示引擎读取数据 HDMI控制器->>显示器: 4. TMDS信号输出 ``` 1. **C2H传输阶段** - FPGA通过XDMA的**C2H通道**将视频帧数据直接写入**主机内存**（DDR） - 驱动层通过`mmap`将物理内存映射到用户空间： ```c // Linux驱动示例 void *buffer = mmap(NULL, buf_size, PROT_READ|PROT_WRITE, MAP_SHARED, fd, 0); ``` - 此时数据暂存在**主机主内存**中（非显存） 2. **内存→显存拷贝** - 操作系统（如Windows Display Driver Model/WDDM）或图形API（如OpenGL/Vulkan）将内存数据拷贝到**GPU显存** - 关键步骤： - 应用层调用`glTexImage2D()`等API上传纹理 - 驱动触发DMA引擎执行内存到显存的拷贝 3. **显示输出** - GPU显示控制器从显存读取数据 - 通过HDMI控制器生成TMDS信号输出到显示器[^1] --- ### **二、绕过内存中转的优化方案** 若需避免内存中转，需满足以下条件： 1. **Linux零拷贝方案** - 使用`DRM/KMS`直接模式： ```c drmModeAddFB2(...); // 将FPGA缓冲区注册为DRM帧缓冲 drmModeSetCrtc(...); // 直接输出到显示器 ``` - 要求： - GPU支持`PRIME`显存共享 - FPGA缓冲区物理地址需映射到GPU地址空间 2. **Windows GPU直接访问** - 通过`CrossAdapter Resource`（Windows 10+）： ```cpp D3D12_HEAP_DESC heapDesc = { .Properties = { .Type = D3D12_HEAP_TYPE_CUSTOM, .CPUPageProperty = D3D12_CPU_PAGE_PROPERTY_NOT_AVAILABLE // 禁止CPU访问 } }; ``` - 需GPU支持`ReservedBarrier`且FPGA作为PCIe Peer设备 --- ### **三、性能影响分析** | 传输方式 | 延迟 | 带宽占用 | 实现复杂度 | |-------------------|------|----------|------------| | 内存中转 (默认) | 高 | 高 | 低 | | 零拷贝 (Linux) | 低 | 低 | 高 | | 跨设备资源(Windows)| 中 | 中 | 高 | > ⚠️ 注意：默认方案中内存中转会带来**额外30-50ms延迟**，对8K/120Hz等场景可能成为瓶颈[^2]。 --- ### **四、验证方法** 1. **内存中转验证** - Windows性能监视器：观察`Memory\Page Reads/sec`在视频播放时的峰值 - Linux工具： ```bash sudo apt install intel-gpu-tools intel_gpu_top # 观察"Render"和"Blitter"引擎活动 ``` 2. **零拷贝验证** - DRM调试： ```bash cat /sys/kernel/debug/dri/*/name # 确认FPGA缓冲注册为GPU FB ``` --- ### **常见问题解决** | 问题现象 | 解决方案 | |---------------------------|-----------------------------------| | 播放视频时内存占用过高 | 检查是否启用GPU硬解 (如DXVA/VDPAU)| | 零拷贝模式出现花屏 | 检查缓冲区像素格式对齐 (需64字节) | | PCIe带宽不足导致卡顿 | 升级PCIe Gen4并使用x8通道 | > 工程参考：[Xilinx DRM-KMS驱动示例](https://github.com/Xilinx/drm-xlnx) --- ### **相关问题** 1. 如何实现FPGA与GPU之间的直接显存共享（Zero-Copy）？ 2. PCIe Peer-to-Peer传输在视频处理中的性能瓶颈是什么？ 3. Windows下如何绕过WDDM实现直接HDMI输出？ 4. 实时视频处理系统如何优化内存中转延迟？
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值