零拷贝真的很重要!!!

ComfyUI+MiniMax H3+Turbo LoRA:AI自动分镜批量生成工作流实战 在AI绘画与内容生产加速的大背景下,ComfyUI作为灵活的可视化工作流引擎,正成为批量图像生成的核心基础设施。Turbo LoRA通过低秩适配压缩采样路径,将生成步数从20步降至4步,在保证画质的同时实现接近实时的反馈。LTX高清放大节点则负责在后期恢复细节,避免传统缩放带来的纹理平坦。结合MiniMax H3对复杂指令的理解能力,用户可将分镜脚本转化为结构化提示词,驱动模型自动产出概念图与分镜画面,配合面部锁定与放大修复,形成从文本到成图的闭环。该方案适用于短视频分镜、角色设定、动画前期等批量场景,也兼 阅读详情

零拷贝作为很多中间件和框架的核心知识,在很多场景有很多的应用,例如:Java NIO、Netty底层的通信协议有用到零拷贝,Kafka之所以这么快也用到了零拷贝,RocktMQ存储的核心也有用到零拷贝,所以面试的时候,是经常出现的,是重点中的重点!

一、IO的一些基本概念

1.1、缓冲区

缓冲区是所有I/O的基础,I/O讲的无非就是把数据移进或移出缓冲区;进程执行I/O操作,就是向操作系统发出请求,让它要么把缓冲区的数据排干(写),要么填充缓冲区(读);下面看一个Java进程发起read请求加载数据大致的流程图:

进程发起read请求之后,内核接收到read请求之后,会先检查内核空间中是否已经存在进程所需要的数据,如果已经存在,则直接把数据copy给进程的缓冲区;如果没有内核随即向磁盘控制器发出命令,要求从磁盘读取数据,磁盘控制器把数据直接写入内核read缓冲区,这一步通过DMA完成;接下来就是内核将数据copy到进程的缓冲区;
如果进程发起write请求,同样需要把用户缓冲区里面的数据copy到内核的socket缓冲区里面,然后再通过DMA把数据copy到网卡中,发送出去;
你可能觉得这样挺浪费空间的,每次都需要把内核空间的数据拷贝到用户空间中,所以零拷贝的出现就是为了解决这种问题的;
关于零拷贝提供了两种方式分别是:mmap+write方式,sendfile方式,下边会说;

2、虚拟内存

所有现代操作系统都使用虚拟内存,使用虚拟的地址取代物理地址,这样做的好处是:
1)一个以上的虚拟地址可以指向同一个物理内存地址,
2)虚拟内存空间可大于实际可用的物理地址;
利用第一条特性可以把内核空间地址和用户空间的虚拟地址映射到同一个物理地址,这样DMA就可以填充对内核和用户空间进程同时可见的缓冲区了,大致如下图所示:

省去了内核与用户空间的往来拷贝,java也利用操作系统的此特性来提升性能,下面重点看看java对零拷贝都有哪些支持。

3、mmap+write方式

使用mmap+write方式代替原来的read+write方式,mmap是一种内存映射文件的方法,即将一个文件或者其它对象映射到进程的地址空间,实现文件磁盘地址和进程虚拟地址空间中一段虚拟地址的一一对映关系;这样就可以省掉原来内核read缓冲区copy数据到用户缓冲区,但是还是需要内核read缓冲区将数据copy到内核socket缓冲区。

4、sendfile方式

sendfile系统调用在内核版本2.1中被引入,目的是简化通过网络在两个通道之间进行的数据传输过程。sendfile系统调用的引入,不仅减少了数据复制,还减少了上下文切换的次数。

数据传送只发生在内核空间,所以减少了一次上下文切换;但是还是存在一次copy,能不能把这一次copy也省略掉,Linux2.4内核中做了改进,将Kernel buffer中对应的数据描述信息(内存地址,偏移量)记录到相应的socket缓冲区当中,这样连内核空间中的一次cpu copy也省掉了;

1.2、IO的读取方式

IO的读写方式有中断和DMA。

1.2.1、中断方式

用户进程发起数据读取请求

系统调度为该进程分配cpu

cpu向io控制器(ide,scsi)发送io请求

用户进程等待io完成,让出cpu

系统调度cpu执行其他任务

数据写入至io控制器的缓冲寄存器

缓冲寄存器满了向cpu发出中断信号

cpu读取数据至内存

缺点:中断次数取决于缓冲寄存器的大小

1.2.2、DMA方式

用户进程发起数据读取请求

系统调度为该进程分配cpu

cpu向DMA发送io请求

用户进程等待io完成,让出cpu

系统调度cpu执行其他任务

数据写入至io控制器的缓冲寄存器

DMA不断获取缓冲寄存器中的数据(需要cpu时钟)

传输至内存(需要cpu时钟)

所需的全部数据获取完毕后向cpu发出中断信号

优点:减少cpu中断次数,不用cpu拷贝数据

1.3、数据拷贝

下面展示了传统方式读取数据后并通过网络发送所发生的数据拷贝:

一个read系统调用后,DMA执行了一次数据拷贝,从磁盘到内核空间

read结束后,发生第二次数据拷贝,由cpu将数据从内核空间拷贝至用户空间

send系统调用,cpu发生第三次数据拷贝,由cpu将数据从用户空间拷贝至内核空间(socket缓冲区)

send系统调用结束后,DMA执行第四次数据拷贝,将数据从内核拷贝至协议引擎

另外,这四个过程中,每个过程都发生一次上下文切换

内存缓冲数据,主要是为了提高性能,内核可以预读部分数据,当所需数据小于内存缓冲区大小时,将极大的提高性能。

零拷贝是为了消除这个过程中冗余的拷贝!

三、什么是零拷贝?

Zero-copy, 就是在操作数据时, 不需要将数据 buffer 从一个内存区域拷贝到另一个内存区域。因为少了一次内存的拷贝, 因此 CPU 的效率就得到的提升。

“零拷贝”,CPU不需要为数据在内存之间的拷贝消耗资源。而它通常是指计算机在网络上发送文件时,不需要将文件内容拷贝到用户空间(User Space)而直接在内核空间(Kernel Space)中传输到网络的方式。

操作系统:Zero-copy 通常指避免在用户态(User-space) 与内核态(Kernel-space) 之间来回拷贝数据。

3.1、零拷贝-sendfile 对应到java中

为FileChannel.transferTo(long position, long count, WritableByteChannel target)//将数据从文件通道传输到了给定的可写字节通道

避免了第二节中第2,3步的数据拷贝。

DMA从拷贝至内核缓冲区

cpu将数据从内核缓冲区拷贝至内核空间(socket缓冲区)

DMA将数据从内核拷贝至协议引擎

这三个过程中共发生2次上下文切换,分别为发起读取文件和发送数据

以上过程发生了三次数据拷贝,其中有一次为cpu完成

linux内核2.4以后,socket缓冲区做了调整,DMA带收集功能。

DMA从拷贝至内核缓冲区

将数据的位置和长度的信息的描述符增加至内核空间(socket缓冲区)

DMA将数据从内核拷贝至协议引擎

3.2、零拷贝-mmap 对应到java中

为MappedByteBuffer//文件内存映射

数据不会复制到用户空间,只在内核空间,与sendfile类似,但是应用程序可以直接操作该内存。

四、kafka零拷贝?

使用零拷贝之前:

可以看到,“零拷贝技术”只用将磁盘文件的数据复制到页面缓存中一次,然后将数据从页面缓存直接发送到网络中(发送给不同的订阅者时,都可以使用同一个页面缓存),避免了重复复制操作。

如果有10个消费者,传统方式下,数据复制次数为4*10=40次,而使用“零拷贝技术”只需要1+10=11次,一次为从磁盘复制到页面缓存,10次表示10个消费者各自读取一次页面缓存。

五、Netty零拷贝

 

传统方式:

 

 

芯片良率提升:从设计到制造的系统性工程实践 在半导体制造领域,良率是衡量生产效率和成本控制的核心指标,直接关系到芯片的经济效益与市场竞争力。其本质是合格芯片占总产出芯片的百分比,提升良率需要从设计源头到制造末端的全流程协同优化。从技术原理看,它涉及可制造性设计、工艺过程控制、缺陷检测与根因分析等多个复杂环节,尤其在先进制程下,随机缺陷和参数变异成为主要挑战。其技术价值不仅在于降低单颗芯片成本,更能加速产品上市、保障可靠性,并成为企业技术实力的关键体现。应用场景贯穿智能手机、数据中心、自动驾驶和人工智能等所有高端芯片领域。本文将结合【芯片制造】与【良率 阅读详情

相关推荐

5分钟搞定!用OpenCV实现全景图像柱面展开的保姆级教程(附完整代码)

本文提供了一份使用OpenCV实现全景图像柱面展开的详细教程。通过清晰的数学原理讲解和分步代码演示,指导读者快速掌握从等距柱状投影全景图到平面展开图的核心转换方法,并涵盖性能优化、参数调整及透视视图扩展等实用技巧,适合图像处理爱好者和开发者实践。

sony5的博客 577

一文彻底弄懂零拷贝原理

无论是传统的 I/O 方式,还是引入了零拷贝之后,2 次DMA copy是都少不了的。因为两次 DMA 都是依赖硬件完成的。所以,所谓的零拷贝,都是为了减少 CPU copy 及减少了上下文的切换。CPU拷贝DMA拷贝系统调用上下文切换传统方法22read/write4内存映射12mmap/write4sendfile12sendfile202sendfile2splice02splice0。

初念初恋的博客 7469

获取本机正版windows10激活密钥,以及正版office

本方法面向的是以前买过笔记本电脑给你预装了正版系统,激活了正版office(一般是家庭版)的情况,其他情况请自行尝试。

qq_45774917的博客 2万+

零拷贝(Zero Copy)

零拷贝技术指的是在计算机执行操作时,CPU不需要先将数据从一个内存区域复制到另一个内存区域,从而可以减少上下文以及CPU的拷贝时间。他的作用是在数据报从网络设备到用户程序空间传递的过程,减少数据拷贝的次数,减少系统调用,实现CPU的零参与,彻底消除CPU在这方面的负载,实现零拷贝的最主要的技术就是DMA数据传输技术和内存区域映射技术。零拷贝就是可以减少数据在用户缓冲区和内核缓冲区之间的反复的I/O拷贝操作。零拷贝机制可以减少用户进程地址空间和内核地址空间之间因为上下文切换带来的CPU开销。

m0_62645012的博客 8292

3GPP Release与UE Category:无线通信标准演进与终端能力分级全解析

在蜂窝移动通信领域,技术标准的演进与终端设备的能力分级是理解整个产业发展的核心框架。其基本原理由国际标准组织3GPP通过周期性发布的技术规范版本(Release)来定义,每个Release都像一份阶段性的技术蓝图,规定了网络与终端应支持的新功能与性能基线。这种标准化机制的技术价值在于确保了全球设备的互联互通与网络的平滑升级,为从4G LTE到5G NR乃至未来的演进提供了清晰路径。在这一框架下,终端能力分级(如LTE时代的UE Category)是将标准转化为具体设备性能的关键环节,它直接定义了终端在射频和

weixin_34098209的博客 333

INS/伪距组合导航(1)

星间单差GNSS/INS伪距紧组合

u014430081的博客 877

面试被问到“零拷贝”!你真的理解吗?

作者:ksfzhaohui 前言 从字面意思理解就是数据不需要来回的拷贝,大大提升了系统的性能;这个词我们也经常在java nio,netty,kafka,RocketMQ等框架中听到,经常作为其提升性能的一大亮点;下面从I/O的几个概念开始,进而在分析零拷贝。 I/O概念 1、缓冲区 缓冲区是所有I/O的基础,I/O讲的无非就是把数据移进或移出缓冲区;进程执...

香草天空Sky的博客 487

一文搞懂【Linux 搭建 Dread Hunger 服务器】附本体及Docker部署集群方案

看直播发现了五花八门的开服器和版本,一时兴起按官方文档进行了搭建尝试,所以我的版本基于官方Stream2024.01.10更新的版本,也就是停服时的玩法,应该可以根据mod和补丁魔改成更那些开服器一样的版本,本文不做谈论,注重服务器搭建,毕竟8个人不可能在一个局域网里乱象:首先,我看了大量教程视频,一类是开服器的推广,另一类自建的基本采用Windows搭建,我觉得最离谱的是大部分教程都会教你买一台远程Windows虚拟机???

LHmine的博客 3990

高频面试题:什么是零拷贝?在哪些地方使用了?

这是一道高频的面试题,而且在很多技术中都使用到了,比如javaNIO、kafka、Netty、Linux等等。作为一个非常重要的知识点,而且又是高频面试题,有必要从零开始好好地认识一下。即使你是刚入门的同行,相信也能看的懂。 OK,开始今天的文章。 一、什么是零拷贝? 1、从一个案例说起 为了解释这个概念,我们先要从一个需求说起,说某天某领导给你下发了一个任务,完成一个从文件中读取数据,并传输到网...

冯冬冬的博客 1万+

win10离线安装.NetFrameWork3.5出现0x800F081F解决办法。

由于公司开发环境是内网,并且安装arcgis10.2又需要.NetFrameWork3.5的环境,安装.NetFrameWork3.5的又总是报错“0x800F081F”找不到源文件。折腾了两天总算解决了。 首先我们能在网上搜索到的教程,你一定看到过这样的教程,就是使用下面的命令来进行安装。 dism /online /Enable-Feature /Featu...

AIGIS的博客 1万+

13、网络通信中的字节序与内存测试

本文主要探讨了网络通信中的字节序问题以及嵌入式系统中内存测试的相关内容。在网络通信部分,重点分析了大端序和小端序的差异,以及TCP/IP协议中字节序的转换机制,并介绍了相关的宏定义和实现方法。在内存测试部分,详细阐述了内存测试的目的、常见问题以及具体的测试策略,包括数据总线测试、地址总线测试和设备测试。通过这些内容,嵌入式程序员可以更好地理解并解决实际开发中可能遇到的字节序和内存问题,从而提高系统的稳定性和可靠性。

mmm90的博客 112

Kafka - 之kafka为什么这么快(页缓存、零拷贝、顺序写磁盘)!

Kafka - 之kafka为什么这么快(页缓存、零拷贝、顺序写磁盘)! kafka为什么这么快,主要是得益于以下几点 页缓存(读) 零拷贝(读写) 顺序写磁盘(写) 用户应用与磁盘之间文件之间的读写可以大致分为以下几层分工 ############################### 用户层(服务端应用) 用户态缓存 ############################### 内核层(操作系统内核) 页缓存 socket缓存 ##############################

shufangreal的博客 1882

chembl_webresource_client 包数据接口下载chembl数据库;ZINC数据库下载、simles获取

点击进去https://zinc.docking.org/subclasses/kinase/predictions/,然后下载sdf模式,这里可以转化simles格式,如果下载csv里面没有包含simles。参考:https://github.com/chembl/chembl_webresource_client/blob/master/demo_wrc.ipynb。参考:https://zinc.docking.org/这是网页搜索查看,16条数据。这个数据这下载特别慢。

weixin_42357472的博客 3055

你真的理解零拷贝吗?

出处:https://juejin.im/post/5cad6f1ef265da039f0ef5df 前言 从字面意思理解就是数据不需要来回的拷贝,大大提升了系统的性能;这个词我们也经常在java nio,netty,kafka,RocketMQ等框架中听到,经常作为其提升性能的一大亮点;下面从I/O的几个概念开始,进而在分析零拷贝。 I/O概念 1.缓冲区 缓冲区是所有I/O的基础...

勇往直前的专栏 1636

VC中sqlite的使用

在VC中对sqlite的使用,实现数据库大批数据的快速插入,读取数据库中的数据在ListCtrl中显示

win10 跳过U8环境检测的IE WebControls.rar

win10 安装u8的时候 提示IE WebControls 不通过,这个工具可以欺骗u8的检查。 跳过U8环境检测的IE WebControls。提示导入失败后,重新检测通过。

Kafka零拷贝

Kafka除了具备消息队列MQ的特性和使用场景外,它还有一个重要用途,就是做存储层。 用kafka做存储层,为什么呢?一大堆可以做数据存储的 MySQL、MongoDB、HDFS…… 因为kafka数据是持久化磁盘的,还速度快;还可靠、支持分布式…… 啥!用了磁盘,还速度快!!! 没错,kafka就是速度无敌,本文将探究kafka无敌性能背后的秘密。 首先要有个概念,kafka高性能的背后...

ljheee的博客 1万+

迈瑞BS系列全自动生化分析仪LIS协议接口手册(内含HL7和ASTM)

迈瑞BS系列全自动生化分析仪LIS协议接口手册,内含HL7和ASTM)

什么是零拷贝

零”:表示次数是0,它表示拷贝数据的次数是0“拷贝”:指数据从一个存储区域转移到另一个存储区域合起来,那零拷贝就是不需要将数据从一个存储区域复制到另一个存储区域。零拷贝是指计算机执行IO操作时,CPU不需要将数据从一个存储区域复制到另一个存储区域,进而减少上下文切换以及CPU的拷贝时间。它是一种IO操作优化技术。什么是上下文CPU 寄存器,是CPU内置的容量小、但速度极快的内存。而程序计数器,则是用来存储 CPU 正在执行的指令位置、或者即将执行的下一条指令位置。

qq_34237977的博客 4258

计算机控制技术及应用

《计算机控制技术及应用》通过总结作者的科研成果和吸收国内外的先进理论、方法和技术,以计算机控制系统的网络化、开放化、智能化和集成化发展趋势为主线索,主要介绍计算机控制系统的基本概念和计算机控制系统的典型形式,计算机控制系统的数学描述与基本分析方法,以及数字PID控制器、最少拍控制系统、达林算法、状态变量设计法等设计方法及其各种改进算法。重点突出计算机控制系统输入输出通道接口的设计方法和典型控制系统的设计案例与实现方法等。

你真的理解零拷贝了吗?

作者:ksfzhaohui来源:http://t.cn/ESALgwV前言从字面意思理解就是数据不需要来回的拷贝,大大提升了系统的性能;这个词我们也经常在java nio,netty,...

磊哥聊Java 156

零拷贝详解

一篇文章轻松搞懂什么是零拷贝、传统IO执行流程、实现零拷贝的几种方式以及Java如何实现零拷贝。

weixin_54232666的博客 3225

Java中的零拷贝

先提出两个问题: IO过程中,哪些步骤进行了拷贝?哪些地方零拷贝? Java支持哪些零拷贝? 带着这俩问题,我们一起来看下面的探究。 哪里听说过零拷贝?真的0次拷贝吗? 相信大家伙在以往的学习中,或多或少在下面这些组件、框架中有听说过零拷贝 (Zero-Copy)? Kafka Netty rocketmq nginx apache 什么是零拷贝? 零拷贝(英语: Zero-copy) 技术是指计算机执行操作时,CPU不需要先将数据从某处内存复制到另一个特定区域。这种技术通常用于通过网络.

u013733643的博客 3373

零拷贝原理+kafka中的零拷贝

零拷贝原理+mmp优化零拷贝+sendfile优化零拷贝+kafka中的零拷贝

m0_50546235的博客 4202

什么是零拷贝 、零拷贝优化方案 - 真正的零拷贝,哪些地方会用到零拷贝技术

零拷贝指的是,从一个存储区域到另一个存储区域的copy任务无需CPU参与就可完成。零拷贝的底层是通过DMA总线技术实现的。零拷贝与具体的编程语言无关,完全依赖于OS,OS支持就可使用,不支持设置了也不起作用。DMA(Direct Memory Access,直接内存访问)是一种计算机系统内部的数据传输技术,需要DMA总线(硬件的体系结构)的硬件支持。其整个数据传输过程是在DMA控制器下完成的。零拷贝在计算机内部数据拷贝及网络传输中都大量使用,用于减少CPU消耗和内存带宽占用,减少用户。

weixin_44797327的博客 668
上一篇: count(1) 比 count(*) 效率高么?
下一篇: Redis过期删除是如何做的?
Jack爱258
博客等级 码龄10年 1288粉丝 124原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值