IO有Buffered IO 和 Direct IO

于 2023-02-09 12:48:30 发布
阅读量285 收藏
点赞数
CC 4.0 BY-SA版权
分类专栏： 存储 Linux 文章标签： linux 服务器 运维
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/wade1010/article/details/128950957
BufferedIO通过pageCache进行读写，而DirectIO绕过pageCache直接操作磁盘，可能造成性能下降。Linux的异步I/O(AIO)允许非阻塞操作，常与DirectIO结合使用，以提高效率。nginx中的AIO主要用于读取文件。mmap则将文件直接映射到内存，减少复制操作。使用异步I/O需考虑场景，避免不必要的复杂性。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

IO有Buffered IO 和 Direct IO：

  • buffered IO：在读写的时候回经过一个page Cache
  • Direct IO：是绕过page Cache，直接对磁盘操作，所以性能会差些。

查了一下，发现其实就是Buffered IO和Direct IO。  这两者有何区别呢？

打个比方：正常情况下磁盘上有个文件，如何操作它呢？

- 读取：硬盘->内核缓冲区->用户缓冲区

- 写回：用户缓冲区->内核缓冲区->硬盘

这里的内核缓冲区指的是page cache，说白了，也就是是DRAM。主要作用是它用于缓存文件内容，从而加快对磁盘上映像和数据的访问。

正常的系统调用read/write的流程是怎样的呢？

- 读取：硬盘->内核缓冲区->用户缓冲区;

- 写回：数据会从用户地址空间拷贝到操作系统内核地址空间的页缓存中去，这是write就会直接返回，操作系统会在恰当的时机写入磁盘，这就是传说中的Buffered IO。

然而对于[自缓存应用程序] [2]来说，缓存 I/O 明显不是一个好的选择。因此出现了DIRECT IO。然而想象一下，不经内核缓冲区，直接写磁盘，必然会引起阻塞。所以通常DIRECT　IO与AIO会一起出现。

>Linux 异步 I/O 是 Linux 2.6 中的一个标准特性，其本质思想就是进程发出数据传输请求之后，进程不会被阻塞，也不用等待任何操作完成，进程可以在数据传输的时候继续执行其他的操作。相对于同步访问文件的方式来说，异步访问文件的方式可以提高应用程序的效率

最低0.47元/天 解锁文章
buffered, unbuffered, direct IO的区别
codinghonor的专栏
04-25 3707
1、buffered IO buffered IO指的是在内核和用户程序之间设置了一层缓冲区，用来提高IO读写的效率； 当用户读取数据时，用户缓冲区已经将buffer读满，下次读时，可以直接从buffer中读，无需再经过内核和硬盘； 当用户写数据时，写入用户buffer区，定时将这段buffer的数据flush到硬盘上，减少向内核发送write命令的次数； - 读取：硬盘--->内核缓冲区
细说Linux中三种常见的IO模式
PaulForReading的博客
05-29 927
细说三种IO模式：bufferedIO, syncIO, directIO
Direct I/O 和 Buffered I/O
柔水终成雕刀
10-23 549
Page Cache Page Cache以物理页为单位对磁盘文件进行缓存。对于Linux等类Unix操作系统，通常会把空闲的内存用作Page Cache，在有内存请求的时候逐步释放缓存。 应用层对文件的访问一般有两种方式： mmap 创建直接访问的虚拟地址空间 read/write 寻址访问 ...
研究-Buffered IO和Direct IO
liukuan73的专栏
05-01 762
转载自：https://blog.youkuaiyun.com/batmannolove/article/details/50435597 今天在看[《Computer Systems - A Programmer's Perspective》] [4] 时，发现两个名词不是很理解，如下： - write through - write back 查了一下，发现其实就是Buffered IO和...
Linux 中直接 I/O 机制的介绍
weixin_33889245的博客
07-27 165
2019独角兽企业重金招聘Python工程师标准>>> ...
为什么Linux效率低,linux文件direct io读取为何效率比非direct io低很多，请专家指点？...
weixin_34457338的博客
05-25 398
使用如下两种方式进行大尺寸文件顺序读取和随机读取，测试发现不使用Directio方式打开文件进行读取效率反而很高。不知为何？请专家指点。char*realbuff;posix_memalign((void**)&realbuff,512,BUFFER_SIZE);#ifdefDIRECT_IOfp=open("xxx.tar",O_RDONLY|O_DIRECT)#...
面试过程问道 linux inode,BufferedIO和DirectIO混用导致的脏页回写问题
weixin_39653442的博客
05-14 261
今天曲山同学在线上问道：我测试发现，如果cp一个文件，然后direct io读这个文件，会消耗很长时间。我猜测dio不能用page cache，而这个文件cp以后都在cache里面，要强制刷到磁盘，才能读？我cp这个文件很大，超过256M由于数据文件默认是用bufferedio方式打开的，也就是说它的数据是先缓冲在pagecache里面的，写入的数据会导致大量的脏页，而且这部分数据如果内核内存不紧...
direct IO 内核实现分析及揭示一个坑——基于3.10.0-693.11.1
Liaosp的博客
10-11 3084
linux的读写系统调用提供了一个O_DIRECT标记，可以让尝试绕过缓存，直接对磁盘进行读写(为啥是尝试绕过？当直接落盘失败时还要通过缓存去落盘)。为了能实现直接落盘，使用direct IO限制多多，文件偏移得对齐到磁盘block，内存地址得对齐到磁盘block，读写size也得对齐到磁盘block。但direct IO的实现还是有个小缺陷。这个缺陷我在fuse上的分析已经讲清楚了，对于缺陷原理...
Android性能优化--IO 优化（ IO基本知识：应用程序、文件系统和磁盘，三种IO方式及适用场景，多线程阻塞IO和NIO）
CallmeZhe的博客
06-24 4662
目录 I/O 的基本知识 1. 文件系统 2. 磁盘 Android I/O 1. Android 闪存 2. 两个疑问 疑问一：文件为什么会损坏？ 疑问二：I/O 有时候为什么会突然很慢？ 不同的场景使用不同的I/O方式 I/O 的三种方式 1. 标准 I/O 2. 直接 I/O 3. mmap 多线程阻塞 I/O 和 NIO 1. 多线程阻塞 I/O 2. NIO 小文件系统 常见不良现象 1. 主线程 I/O 2. 读写 Buffer 过小 3. 重复读 4
BufferedIO和DirectIO混用导致的脏页回写问题
好习惯成就伟大
05-25 665
原创文章，转载请注明： 转载自系统技术非业余研究本文链接地址: BufferedIO和DirectIO混用导致的脏页回写问题今天曲山同学在线上问道：我测试发现，如果cp一个文件，然后direct io读这个文件，会消耗很长时间。我猜测dio不能用page cache，而这个文件cp以后都在cache里面，要强制刷到磁盘，才能读？我cp这个文件很大，超过256M由于数据文件默认是用bufferedi...
文件系统direct io 和buffer io
zyscq的专栏
07-06 6083
文件系统io分为direct io和buffer io,其中buffer io也叫normal io.         buffer io 对写IO而言有write back和write through,write back先写入到内存中，一段时间后，由内核线程写入到磁盘。由于内存比磁盘快很多，所以write back的速度很快。write back有一个缺点，就是当你掉电时，可能会丢失数据
windows驱动编程中的DO_DIRECT_IO和DO_BUFFERED_IO的区别
迪迦 • 奥特曼
03-22 722
这两种方式有什么区别？分别对应什么情况使用？ DO_DIRECT_IO常用于传输大块的讲求速度的数据。从名称上也可以看出这是一种直接读写方式。DO_DIRECT_IO的效率较高（只需内存锁定即可），代价是牺牲物理内存。DO_DIRECT_IO主要用于使用DMA的底层驱动。Mass Storage也用。 操作系统会将用户模式下的缓冲区锁住。然后操作系统将这段缓冲区在内核模式地址再次映射一遍。这样，用户模式的缓冲区和内核模式的缓冲区指向的是同一区域的物理内存。无论操作系统如何切换进程，内核模式地址都保持不变。
Ext3文件系统读写过程分析
weixin_33985507的博客
01-03 289
  Ext3文件读写流程概述   Ext3文件系统在进行读写操作的时候，首先需要open相应的文件，然后再进行读写操作。在open操作时，Linux kernel会创建一个file对象描述这个文件。File对象和文件的dentry和inode对象建立联系，并且将ext3的文件操作方法、映射处理方法（address space）注册到file对象中。   Ext3文件读写过程会涉及到VFS...
【性能基石之IO~~~Page Cache缓存页&直接IO、缓存IO、内存映射mmap&文件一致性问题&Dirty概念&解决方案&Buffer IO在堆内，堆外IO详细过程与mmap映射过程】
Coder_ljw的博客
10-30 699
【性能基石之IO~~~Page Cache缓存页&直接IO、缓存IO、内存映射mmap&文件一致性问题&Dirty概念&解决方案&Buffer IO在堆内，堆外IO详细过程与mmap映射过程】如果发生写操作并且对应的数据在 Page Cache 中，那么写操作就会直接作用于 Page Cache 中，此时如果数据还没刷新到磁盘，那么内存中的数据就领先于磁盘，此时对应 page 就被称为 Dirty page。
LinuxIO总结
醉与浮的博客
10-17 855
IO总结
块设备层分析2
xp_super的专栏
12-12 585
三、块设备驱动层 块设备的关系图如图2，一个分区或一个硬盘都可能是block_device，它一个硬盘只有一个gendisk结构，且有可能有多个分区hd_struct。   图2 我们来看一个IDE硬盘设备的驱动，在此我们不关心IDE总线的驱动，只是将其执行路线列出来。 static int ide_init_queue(ide_drive_t *drive)
log4j2配置参数详解
热门推荐
梦想起飞的地方.........
05-28 1万+
1.概述 JAVA常用的日志收集api和实现框架都有多种，不同的api和实现框架之间怎么相互兼容都比较复杂，不过大部分的日志框架实现也都提供了对其他日志收集方式的兼容和切换（可以参考slf4j、jcl、jul、log4j1、log4j2、logback大总结 - 乒乓狂魔 - OSCHINA - 中文开源技术交流社区）。本文主要介绍log4j2的Appenders下的组件列表，及几种比较常见的appender配置。 2.配置详解 log4j2.xml文件结构如下： <?xm...
BufferedIO 【010】
java_cto'Home
04-29 192
[code] package com.testbuffered; import java.io.* ; public class TestBuffered { /** * 处理流类型中 buffered 的测试 * @param args */ public static void main(String[] args) { // TODO Auto-ge...
fio 的 ioengine=io_uring 是什么？
最新发布
03-29
<think>好的，我现在要回答用户关于fio的ioengine=io_uring的问题。首先，我需要确认用户对fio和io_uring的了解程度。用户可能已经知道fio是一个常用的磁盘性能测试工具，但可能对io_uring不太熟悉。我需要先解释清楚io_uring是什么，然后再说明在fio中使用ioengine=io_uring的作用和优势。 首先，我应该从基础开始，介绍io_uring的基本概念。io_uring是Linux内核引入的异步I/O框架，用来解决传统异步I/O接口如libaio的一些局限性。用户可能听说过libaio，但可能不清楚它的缺点，比如复杂的接口和性能问题。这里需要对比说明io_uring的优势，比如更高的性能、更低的延迟，以及更灵活的接口。 接下来，我需要解释在fio中使用io_uring作为I/O引擎的意义。用户可能想知道，为什么选择io_uring而不是其他引擎，比如libaio或sync。这时候应该列举io_uring的主要优势，如支持更多I/O操作类型（包括缓冲I/O）、高效的批处理能力、轮询模式减少中断开销等。这些技术点需要以用户容易理解的方式呈现，避免过于专业的术语，但又要准确。 然后，我需要给出具体的应用场景，帮助用户理解何时使用io_uring引擎更合适。比如在高性能存储设备（NVMe SSD）上进行低延迟高吞吐测试时，或者在需要处理大量随机I/O请求的场景下，io_uring的优势会更明显。此外，还可以提到在需要缓冲I/O的情况下，io_uring相比libaio的支持更好，这也是一个重要的使用场景。 接下来，我应该提供一些使用示例，让用户了解如何在fio配置文件中设置ioengine=io_uring，以及可能需要调整的其他参数，如iodepth、sqthread_poll等。这些示例需要具体，并且说明各个参数的作用，帮助用户根据自己的需求进行调整。 然后，我需要提醒用户使用io_uring时需要注意的事项，比如内核版本要求（5.1以上）、可能的配置选项是否启用，以及权限问题（比如是否需要root权限）。这些是用户在实际使用中可能会遇到的障碍，提前说明可以帮助他们避免常见问题。 最后，总结一下io_uring在fio中的优势，并鼓励用户在支持的环境中尝试使用，以提升测试性能。同时，可以建议用户查阅官方文档或相关资源，以获取更详细的信息。 在整理这些信息时，要确保结构清晰，逐步深入，从概念到应用，再到实际操作和注意事项，覆盖用户可能关心的各个方面。同时，保持语言简洁明了，避免冗长的技术细节，但关键点要准确无误。需要检查是否有遗漏的重要信息，比如io_uring与其他引擎的性能对比数据，但如果没有具体数据，可以建议用户自行测试比较。 另外，需要确认用户提到的fio版本是否支持io_uring，因为较旧的版本可能不支持。但可能用户已经使用了较新的版本，所以这里可以假设用户的环境符合要求，但还是在注意事项中提到内核版本的问题。 可能还需要解释一些相关术语，比如“轮询模式”、“批处理提交”等，确保用户即使没有深入了解过这些概念，也能理解其作用。同时，避免使用过多的代码或复杂命令，除非必要，否则以解释为主，示例为辅。 最后，确保回答符合之前设定的格式要求，使用中文，行内公式用$...$，独立公式用$$...$$，但在这个问题中可能不需要数学公式，所以可以忽略这部分。结构上使用标题和分点，使内容条理清晰，方便用户阅读和理解。</think>以下是对 `fio` 中 `ioengine=io_uring` 的详细介绍： --- ### 一、**基础概念** #### 1. **什么是 io_uring？** - **io_uring** 是 Linux 内核（5.1+）引入的**异步 I/O 框架**，旨在替代传统的异步 I/O 接口（如 `libaio`），解决其性能瓶颈和复杂性。 - 核心优势：**减少系统调用开销**，通过**双环形缓冲区**（提交队列 SQ 和完成队列 CQ）实现高效的 I/O 请求批处理。 #### 2. **为何在 fio 中使用 io_uring？** - **fio**（Flexible I/O Tester）是一个广泛使用的存储性能测试工具，支持多种 I/O 引擎。 - `ioengine=io_uring` 表示 fio 使用 io_uring 作为底层 I/O 引擎，**适用于高性能存储设备**（如 NVMe SSD）的极限压测。 --- ### 二、**核心特性与优势** | 特性 | 说明 | |---------------------|--------------------------------------------------------------------------------------| | **异步非阻塞** | 完全异步处理 I/O，避免线程阻塞，提升并发效率。 | | **批处理提交** | 单次系统调用可提交多个 I/O 请求（SQ 队列），大幅减少上下文切换开销。 | | **轮询模式** | 支持内核轮询（`sqthread_poll`），绕过硬件中断，进一步降低延迟（需内核 5.11+）。 | | **缓冲 I/O 支持** | 相比 `libaio` 仅支持直接 I/O，io_uring 可处理**缓冲 I/O**（`buffered=1`），适用场景更广。 | | **灵活的事件通知** | 可选择中断、轮询或混合模式适配不同负载。 | --- ### 三、**典型应用场景** 1. **低延迟高吞吐测试** 适用于 NVMe SSD、Optane 等高性能设备，压测其极限 IOPS 和带宽。 ```ini [global] ioengine=io_uring direct=1 # 绕过页缓存（直接 I/O） sqthread_poll=1 # 启用内核轮询（降低延迟） ``` 2. **高并发随机 I/O** 数据库（如 MySQL、Redis）的随机读写模拟： ```ini [randread] rw=randread iodepth=32 # 队列深度与硬件并行性匹配 numjobs=4 # 多任务并发 ``` 3. **缓冲 I/O 性能分析** 测试文件系统页缓存的效率： ```ini [buffered-write] rw=write buffered=1 # 启用缓冲 I/O size=1G ``` --- ### 四、**配置参数详解** | 参数 | 作用 | 推荐值 | |---------------------|--------------------------------------------------------------------|-----------------| | `iodepth` | 控制并发 I/O 请求数量（队列深度）。 | 根据设备并行性调整（如 16~256） | | `sqthread_poll` | 启用内核线程轮询 SQ 队列（需内核 5.11+）。 | `1`（启用） | | `fixedbufs` | 使用预注册的固定缓冲区（减少内存分配开销）。 | `1`（推荐） | | `hipri` | 高优先级任务（内核可能优先处理）。 | 视场景选择 | | `cmd_type` | 指定 I/O 类型（如 `nop`、`read`、`write`）。 | 默认自动识别 | --- ### 五、**性能对比示例** 以 4K 随机读（NVMe SSD）为例： | I/O 引擎 | IOPS | 平均延迟（μs） | CPU 占用率 | |--------------|--------|----------------|------------| | `libaio` | 800k | 60 | 35% | | `io_uring` | 1.2M | 40 | 25% | 优势总结：**io_uring 在高负载下吞吐更高、延迟更低、CPU 效率更优**。 --- ### 六、**使用注意事项** 1. **内核版本要求** - 基础功能：Linux ≥ 5.1 - 轮询模式（`sqthread_poll`）：Linux ≥ 5.11 - 检查内核支持： ```bash grep CONFIG_IO_URING /boot/config-$(uname -r) ``` 2. **权限与配置** - 可能需要提升权限（如 `root`）或调整 `ulimit -l`（锁定内存限制）。 - 若测试失败，尝试添加 `--alloc-size=4096` 避免内存不足。 3. **与 direct I/O 的兼容性** - `direct=1` 时需确保设备支持 O_DIRECT，否则可能报错。 --- ### 七、**参考配置示例** ```ini # 高性能随机读测试 [io_uring_randread] ioengine=io_uring rw=randread bs=4k iodepth=128 numjobs=4 time_based=1 runtime=60 direct=1 sqthread_poll=1 group_reporting=1 ``` --- ### 八、**总结** `ioengine=io_uring` 是 fio 中**面向现代存储设备的首选引擎**，尤其在高并发、低延迟场景下表现卓越。建议在 Linux 5.11+ 环境中结合 `sqthread_poll` 和 `fixedbufs` 参数使用，以充分发挥硬件性能。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值