高级IO之MMAP-缺页异常的理解(二)

揭秘Java内存映射文件:如何通过页表与缺页异常征服大文件? 在处理大文件时,Java的MappedByteBuffer往往能带来数倍性能提升。这背后是操作系统虚拟内存管理机制与硬件MMU的完美协作。本文将深入剖析从Java API到磁盘IO的完整链路,揭示内存映射文件的性能奥秘。 阅读详情

1. 题目

With read and write, we copy the data from the kernel’s buffer to the application’s buffer (read), and then copy the data from the application’s buffer to the kernel’s buffer (write). With mmap and memcpy, we copy the data directly from one kernel buffer mapped into our address space into another kernel buffer mapped into our address space.This copying occurs as a result of page fault handling when we reference memory pages that don’t yet exist (there is one fault per page read and one fault per page written). If the overhead for the system call and extra copying differs from the page fault overhead, then one approach will perform better than the other.

请理解上面的描述,如果您对上面的描述很清楚,那么本文您可以从略。 本文目的只是一般性的介绍上面描述所涉及的知识,并非深究内核,虚拟内存, SWAP等底层相关知识。

2. 资料整理

2.1 英文资料

Linux always tries to use RAM to speed up disk operations by using available memory for buffers (file system metadata) and cache (pages with actual contents of files or block devices).

首先理解cache和buffer,以上引用来自redhat,使用buffer和cache来加速disk opertions,且两者在RAM中存储的内容不同。前者是file system meta后者是actual contents of files,笔者在自身电脑执行free,结果如下:

[root@localhost ~]# free -h
              total        used        free      shared  buff/cache   available
Mem:           3.8G        1.4G        1.0G        5.3M        1.5G        2.1G
Swap:          3.9G          0B        3.9G

接着看看quora中的精彩回答:

The page cache caches pages of files to optimize file I/O. The buffer cache caches disk blocks to optimize block I/O.

Starting with Linux kernel version 2.4, the contents of the two caches were unified. The VM subsystem now drives I/O and it does so out of the page cache. If cached data has both a file and a block representation—as most data does—the buffer cache will simply point into the page cache; thus only one instance of the data is cached in memory. The page cache is what you picture when you think of a disk cache: It caches file data from a disk to make subsequent I/O faster.

The buffer cache remains, however, as the kernel still needs to perform block I/O in terms of blocks, not pages. As most blocks represent file data, most of the buffer cache is represented by the page cache. But a small amount of block data isn’t file backed—metadata and raw block I/O for example—and thus is solely represented by the buffer cache.

笔者上面的的结果和redhat官网给出的不太一致,从内核2.4以后buff就和cache合并在一起,以上面的引用指出来如果缓存的数据有两种表示形式,buffer cache就简单的指向page cache,所以常规的write或者read操作,将数据写入kernel buffer,这里就是指page cache,而由系统决定将其写回disk的时间。这里页的相关知识就需要看看虚拟内存映射,接着再看看mmap相关知识,以下引用来自stackoverflow:

The only thing the mmap function really does is change some kernel data structures, and possibly the page table. It doesn’t actually put anything into physical memory at all. After you call mmap, the allocated region probably doesn’t even point to physical memory: accessing it will cause a page fault. This kind of page fault is transparently handled by the kernel, in fact, this is one of the kernel’s primary duties.

The main difference between using mmap to read a file and read to read a file is that unmodified pages in an mmap region do not contribute to overall memory pressure, they are almost “free”, memory wise, as long as they are not being used. In contrast, files read with the read function will always contribute to memory pressure whether they are being used or not, and whether they have been modified or not.

Finally, mmap is faster than read only in the use cases which it favors – random access and page reuse. For linearly traversing a file, especially a small file, read will generally be faster since it does not require modifying the page tables, and it takes fewer system calls.

As a recommendation, I can say that any large file which you will be scanning through should generally be read in its entirety with mmap on 64-bit systems, and you can mmap it in chunks on 32-bit systems where virtual memory is less available.

简单总结下,以上引用的大体内容:调用mmap会改变一些内核数据结构,来构造虚拟地址空间和文件的映射关系,但是此时主存中并没有和虚拟地址空间中page对应的page frame,只有对其映射地址的访问引发了相应的页错误,内核在处理该页错误的时候将文件相应的数据拷贝到主存中。那么使用mmap所占用的虚拟内存随时都可以被"释放"掉,只要该区域没有被使用。而read或者write所进行的系统调用会进行page cache,笼统的说mmap比read或者write快是不适合的,要看是进行缺页错误处理的开销和系统调用及频繁的page cache的开销哪个更大了。

2.2 中文资料

比较好的文章: 以下引用来自该篇文章,比较清楚的的阐释了本文的问题。

例如说,进程通过 mmap 系统调用,直接建立了磁盘文件和虚拟内存的映射关系。然而,在 mmap 调用之后,并不会立即从磁盘上读取这一文件。而是在实际需要文件内容时,通过 CPU 触发缺页错误,要求 Page Fault Handler 去将文件内容读入内存。

第二篇比较好的文章,截取部分相关的话语:

总结来说,常规文件操作为了提高读写效率和保护磁盘,使用了页缓存机制。这样造成读文件时需要先将文件页从磁盘拷贝到页缓存中,由于页缓存处在内核空间,不能被用户进程直接寻址,所以还需要将页缓存中数据页再次拷贝到内存对应的用户空间中。这样,通过了两次数据拷贝过程,才能完成进程对文件内容的获取任务。写操作也是一样,待写入的buffer在内核空间不能直接访问,必须要先拷贝至内核空间对应的主存,再写回磁盘中(延迟写回),也是需要两次数据拷贝。

而使用mmap操作文件中,创建新的虚拟内存区域和建立文件磁盘地址和虚拟内存区域映射这两步,没有任何文件拷贝操作。而之后访问数据时发现内存中并无数据而发起的缺页异常过程,可以通过已经建立好的映射关系,只使用一次数据拷贝,就从磁盘中将数据传入内存的用户空间中,供进程使用。

3. 总结

再回到一开始的问题:read和write涉及kernel buffer和用户空间的buffer进行相互copy,由系统决定sync的时刻或者用户强制调用sync系列函数。使用mmap建立进程虚拟地址空间和文件的对应关系,当我们去读或者写相对应的虚拟地址空间时,因为缺页错误从磁盘copy到主存page cache的动作才发生。两者没有绝对的谁快谁慢,适应的场合不同而已。

NOTE : 对以上内容有质疑,请及时指正笔者。

计算机底层知识拾遗(九)深入理解内存映射mmap 内存映射mmap是Linux内核的一个重要机制,它和虚拟内存管理以及文件IO都有直接的关系,这篇细说一下mmap的一些要点。 mmap和虚拟内存管理 先来看看Linux内核的用户进程虚拟内存管理。内核定义了mm_struct结构来表示一个用户进程的虚拟内存地址空间。 1. start_code, end_code指定了进程的代码段的边界,start_data, end_dat 阅读详情

相关推荐

linux驱动层mmap创建页表流程

MMU是通过页表来查询虚拟地址与物理地址的映射关系。有时候,应用层需要直接访问物理地址,这时应用层就需要调用应用层mmap接口继而调用驱动层的mmap接口将希望的物理地址映射成用户态能访问的虚拟地址。由于操作系统事先并没有创建这块物理地址与虚拟地址的映射关系,因此在驱动层的mmap接口中,需要在页表中建立这块物理地址与虚拟地址的映射关系。其中,内核会在进程的虚拟空间查找一块连续的虚拟地址并把虚拟地址的起始和结束地址填充到VMA的vm_start和vm_end字段中,然后调用remap_pfn_range()在页表中建立物理地址与虚拟地址的映射关系。

一文看懂为什么mmap之后访问地址仍然发生了缺页异常?

但看了一下mmap的手册,说到MAP_POPULATE只能针对于MAP_PRIVATE映射(见mmap手册),比如用匿名页建立的映射,而此处因为是MAP_SHARED,无法用MAP_POPULATE,故此方案作罢。因为笔者先入为主的观念,把所有page fault都当成了缺页异常,而没有第一时间想到permission fault的可能,导致浪费了大量时间来分析remap_pfn_range的行为,虽然代码逻辑整理了不少,但一直没能进入核心要点。这一点突破以后,后面的分析和解决就是水到渠成的事情了。

youzhangjing_的博客 1450

第11讲-虚拟存储:缺页中断

内存管理 Linux 关于内存管理的所有。alloc()和mmap()等内存分配函数,在分配时只是建立了进程虚拟地址空间,并没有分配虚拟内存对应的物理内存。 当进程访问这些没有建立映射关系的虚拟内存时,处理器自动触发一个缺页异常。 缺页异常是Linux内存管理中最复杂和重要的一部分,需要考虑很多相关细节,包括匿名页面、KSM页面、page cache页面、写时复制、私有映射和共享映射等

Linux mmap系统调用视角看缺页中断

实际开发过程中经常使用或者看到mmap函数,具体细节可以man mmap查看相关细节。这个系统调用是个多面手,应用空间申请内存(比如glibc库申请大内存使用的是mmap),还是读写大文件,链接动态库,多进程间共享内存都可以看到mmap的身影,要想真正的理解这个系统一方面是从这几种使用场景的需求上理解mmap,更重要的必须基于内核源码,深入剖析其每个参数具体对应的内核实现。内存拷贝次数以mmap映射文件场景来讲,mmap读写文件与read/write的相比少一次内存拷贝。

GetnextWindow的专栏 1074

AXI4-Stream FIFO IP核实战指南——从配置到跨时钟域处理

本文是AXI4-Stream FIFO IP核的实战指南,详细讲解了其作为数据流缓冲核心的作用。文章重点涵盖从Vivado环境下的IP核配置、关键参数(如深度与宽度)设定,到跨时钟域处理的完整流程。深入解析了TVALID/TREADY握手协议及TLAST等信号,并提供了常见问题排查与调试技巧,帮助开发者高效实现FPGA/SoC系统中可靠的数据流缓冲与同步。

weixin_29251567的博客 482

嵌入式学习之QT学习---14 QT跨平台运行之把QT程序交叉编译到ARM开发板

想要把qt工程放到开发板上运行,就需要用到交叉编译。由于qt是跨平台的,所以只需要换个编译器编译一下就可以。 以“定时器”的例子为例,在移植之前还需要进行一个准备工作,在windows下运行的时候,电脑屏幕很大,但是运行的窗口只有一点点大,开发板也有外接屏幕,如何让运行窗口自动适配开发板的外接屏幕呢?令其占满屏幕显示,而不是一小块。 第一步:需要设置一下,先给ui布局,如果不布局,控件就不会随着屏幕的大小的变化而变化。 第二步:利用代码来获取屏幕的大小,给widget.cpp文件下添加如下代码 #inclu

qq_42822743的博客 5459

mmap函数_内存管理(24)mmap和缺页中断

相关文件:mm/mlock.cmm/util.cmm/mmap.cinclude/linux/slab.hmmap系统调用陷入内核中会调用vm_mmap_pgoff=>do_mmap_pgoff函数来真正完成mmap操作1.1.do_mmap_pgoff函数(关键部分代码)do_mmap_pgoff16行:对需要映射的内存长度页对齐20行:get_unmapped_area返回需要映射的地址...

weixin_39622643的博客 1021

Python+pytest+requests 自动化测试框架

环境准备 本次选用的是Python+Pytest+requests来搭建自动化框架,需要有 Python 环境(3.x 版本),安装pytest和requests,不会安装的自行去网上搜教程。 关于 Pytest 的基本使用,这里不作讲解,不清楚的可以看我之前的文章。 简单 Demo 我们先创建一个项目,取名api-test,然后在下面创建一个test_api.py的文件 # test_api.py import pytest import requests def test_01():

weixin_42686892的博客 1万+

Linux缺页异常处理

1.如果访问的虚拟地址在进程空间没有对应的VMA(mmap和malloc可以分配vma),则缺页处理失败,程序出现段错误. 2.Linux把没有映射到文件的映射叫做匿名映射(malloc和mmap的匿名映射)。 3.remap_pfn_range把内核内存映射到用户空间,一般在设备驱动的mmap函数中调用. int remap_pfn_range(struct vm_area_struct ...

bin_linux96的专栏 1962

数字IC设计随笔之二(VCS、DVE|Verdi单步调试)

VCS+Verdi单步调试

ic疾风传 1万+

浅谈车载控制器产线EOL实现方式

1、控制器生产产线上电路检测设计 2、客户总装产线检测设计

u012406840的博客 2万+

缺页异常详解

首先明确下什么是缺页异常,CPU通过地址总线可以访问连接在地址总线上的所有外设,包括物理内存、IO设备等等,但从CPU发出的访问地址并非是这些外设在地址总线上的物理地址,而是一个虚拟地址,由MMU将虚拟地址转换成物理地址再从地址总线上发出,MMU上的这种虚拟地址和物理地址的转换关系是需要创建的,并且MMU还可以设置这个物理页是否可以进行写操作,当没有创建一个虚拟地址到物理地址的映射,或者创建了这样

cosmoslhf的专栏 2万+

LSF0108 level shift设计使用及debug流程

目录 初版设计 测试出现的问题1 解决问题(尝试1) 测试出现的问题2 解决问题2-1 解决问题2-2 单Port测试结果 所有Port均连接测试结果 初版设计 此电路的应用场景在于将LCD屏幕连接到FPGA上,进而通过FPGA中设计的硬件电路来驱动LCD屏幕,验证数字硬件电路设计的正确性。因此需要一个转接板位于FPGA和LCD屏幕之间,将二者连接起来。 转接板的硬件电路设计主要存在以下需求: 实现3.3V和1.8V之间的同时双向逻辑转换(LCD屏幕电平为3.3V,FPGA电平为1.

moshanghongfeng的博客 7564

一文透彻了解缺页异常

首先明确下什么是缺页异常,CPU通过地址总线可以访问连接在地址总线上的所有外设,包括物理内存、IO设备等等,但从CPU发出的访问地址并非是这些外设在地址总线上的物理地址,而是一个虚拟地址,由MMU将虚拟地址转换成物理地址再从地址总线上发出,MMU上的这种虚拟地址和物理地址的转换关系是需要创建的,并且MMU还可以设置这个物理页是否可以进行写操作,当没有创建一个虚拟地址到物理地址的映射,或者创建了这样的映射,但那个物理页不可写的时候,MMU将会通知CPU产生了一个缺页异常。

m0_74282605的博客 3069

【RK3588开发记录】超详细的RK3588修改debug串口波特率为115200

修改RK3588的debug串口为115200

Crazydrams的博客 4811

ESP32系列之LVGL(四):输入设备(外部按键)对接

本文详细介绍了如何在ESP32上使用LVGL库对接外部按键作为输入设备,包括硬件连接、驱动层实现和LVGL输入设备移植。通过具体代码示例和实战案例,帮助开发者快速实现按键控制UI界面,解决常见问题如按键无反应和控件跳转不正常。

weixin_30907935的博客 243

Linux内存管理——缺页异常处理

缺页异常是指CPU访问的虚拟地址时, MMU没有办法找到对应的物理地址映射关系,或者与该物理页的访问权不一致而发生的异常。CPU通过地址总线可以访问连接在地址总线上的所有外设,包括物理内存、IO设备等等,但从CPU发出的访问地址并非是这些外设在地址总线上的物理地址,而是一个虚拟地址,由MMU将虚拟地址转换成物理地址再从地址总线上发出,MMU上的这种虚拟地址和物理地址的转换关系是需要创建的,并且还需要设置这个物理页的访问权限。

u012336798的博客 3069

VC中sqlite的使用

在VC中对sqlite的使用,实现数据库大批数据的快速插入,读取数据库中的数据在ListCtrl中显示

用户空间缺页异常

当没有创建一个虚拟地址到物理地址的映射,或者创建了这样的映射,但是该物理页不可写的时候,MMU将会通过CPU产生一个缺页异常;handle_pte_fault的详细流程,do_anonymous_page,do_fault以及写时复制等,比较复杂,后续进行补充;1)启动程序的时候,内核为程序的代码段和数据段创建私有的文件映射,映射到进程的虚拟地址空间,第一次访问的时候触发文件页的缺页异常;2)进程使用mmap创建文件映射,把文件的一个区间映射到进程的虚拟地址空间,第一次访问的时候触发文件的缺页异常;

congchp的博客 630

假人有限元模型

假人模型,车辆碰撞假人有限元模型,适合做乘员安全的研究者利用

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

mmap 底层原理万字梳理:结合虚拟内存、缺页中断、COW、Page Cache一网打尽

在学习 Linux 内存管理的时候,虚拟内存、缺页中断、写时复制(COW)、Page Cache 这些概念经常单独出现,很容易学完就忘。而mmap系统调用刚好是串联起这一整套内存体系的绝佳切入点。mmap 可以把文件映射成内存访问,性能比 read/write 高,但面试深挖时,经常踩坑:分不清文件映射和匿名映射、搞不懂 MAP_SHARED / MAP_PRIVATE 的差异、混淆缺页中断和普通系统调用、不清楚 Page Cache 和 Swap 的区别。

weixin_68315058的博客 373

IMSL CNL 7.0.0 (x86-64)Crack

IMSL CNL 7.0.0 (x86-64)Crack intel的算法库破解文件,这是C++版本的破解文件

深入理解Linux内核内存映射(mmap)机制原理

内存映射mmap是Linux内核的一个重要机制,它和虚拟内存管理以及文件IO都有直接的关系,这篇细说一下mmap的一些要点。Linux的虚拟内存管理是基于mmap来实现的。vm_area_struct是在mmap的时候创建的,vm_area_strcut代表了一段连续的虚拟地址,这些虚拟地址相应地映射到一个后备文件或者一个匿名文件的虚拟页。一个vm_area_struct映射到一组连续的页表项。页表项又指向物理内存page,这样就把一个文件和物理内存页相映射。

嵌入式Linux内核的博客 1781

mmap函数概述

mmap基础概念 mmap是一种内存映射文件的方法,即将一个文件或者其它对象映射到进程的地址空间,实现文件磁盘地址和进程虚拟地址空间中一段虚拟地址的一一对映关系。实现这样的映射关系后,进程就可以采用指针的方式读写操作这一段内存,而系统会自动回写脏页面到对应的文件磁盘上,即完成了对文件的操作而不必再调用read,write等系统调用函数。相反,内核空间对这段区域的修改也直接反映用户空间,从而可以实现不同进程间的文件共享。如下图所示: 由上图可以看出,进程的虚拟地址空间,由多个虚拟内存区域构成。虚拟内存区域是

weixin_49298931的博客 5495

【Linux】Direct IO与MMAP性能对决:如何优化随机读写场景下的IO效率

本文深入探讨了Linux系统中Direct IO与MMAP在随机读写场景下的性能差异与优化策略。通过对比分析三者工作原理,指出Direct IO通过绕过Page Cache提供确定性延迟,适合数据库等自管理缓存应用;MMAP则通过内存映射减少拷贝,擅长大文件随机读。文章提供了场景化决策树与实战代码,帮助开发者根据具体负载选择最佳IO方案以提升系统效率。

weixin_29197835的博客 453
上一篇: 多线程之Thread-safe和Async-signal safe分析(十二)
下一篇: 进程IPC之论证充分的探讨Key和Identifier的关系(五)
LoveStackover
博客等级 码龄9年 14粉丝 57原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值