降低Cache miss的方法

【体系结构系列】提高Cache命中率 提高Cache命中率 不命中概述 三种类型的不命中(3C) 强制性不命中(Compulsory miss) 当第一次访问一个块时,该块不在Cache中,需从下一级存储器中调入Cache。(冷启动不命中,首次访问不命中) 容量不命中(Capacity miss ) 如果程序执行时所需的块不能全部调入Cache中,则当某些块被替换后,若又重新被访问,就会发生不命中。 冲突不命中(Conflict miss) 在组相联或直接映象Cache中,若太多的块映象到同一组(块)中,则该组中某个块被别 阅读详情

在嵌入式系统中,提高代码的执行效率意义很大,尤其是对计算密集型代码。效率的增加意味着可以节省下计算能力去做更多的事,同时也意味着能耗的降低。同时提高执行效率还可以从减少I/O、降低内部总线的读写次数等方面入手。

对ARM平台上的软件开发人员,尤其是算法开发和实现人员,通过调整代码来降低Cache miss具有很大的意义,从google上可以搜到很多专业的文章,探讨调整代码来改善I-Cache和D-Cache的hit rate.以下是几种方法的简单列表。

通过软件优化(Complier和手工)来减少Cache miss.
1.指令
~.对存储访问重排序,因而可以减少冲突失效
~.进行Profiling来检测冲突

2.数据
~.合并数组(data merge):通过将两个独立数组合并为一个复合元素的数组来改进空间局部性
~.循环交换(loop interchange): 通过改变循环嵌套来按序访问存储器中存储的数据
~.循环合并(loop fusion): 将两个具有相同循环类型且有一些变量重叠的独立循环合并
~.块化(blocking):通过不断使用一些数据块(而不是完整地遍历一行和一列)来改进时间局部性
 

体系结构学习12-Cahce 1、Cache的必要性: CPU处理速度远超内存访问速度(Processor-Memory Gap) 主要体现在 latency :主存50~100ns,CPU <1ns Bandwidth:指令和数据都需要访问内存 Bandwidth-Delay Product:Little‘s Law 现实中存储单元的问题 越大地址越多驱动单元越多线越长访问越慢 越快越昂贵 带宽越宽越昂贵 2、... 阅读详情

相关推荐

【算法优化】Conv卷积算子的性能提升策略

本文深入探讨了卷积算子(Conv)的性能优化策略。针对朴素实现中严重的Cache Miss问题,详细分析了Im2Col+GEMM算法如何通过数据重组转化为高效矩阵乘法,并介绍了Winograd算法如何减少计算量。文章结合Roofline模型,阐述了提升计算强度和密度的核心思路,为算法优化提供了从理论到实践的全面指导。

weixin_29267307的博客 316

Cache原理简介及cache miss

CPU体系结构之cache小结 1.What is cache? Cache是用来对内存数据的缓存。 CPU要访问的数据在Cache中有缓存,称为“命中” (Hit),反之则称为“缺失” (Miss)。 CPU访问它的速度介于寄存器与内存之间(数量级的差别)。实现Cache的花费介于寄存器与内存之间。 现在 CPU 的 Cache 又被细分了几层,常见的有 L1 Cache, L2 Cache, L3 Cache,其读写延迟依次增加,实现的成本依次降低。 现代系统采用从 Register ―>966.

hithj_cainiao的博客 1万+

华为CCA架构软件栈VehicleStack解析:3层服务化设计与AOS/VOS双核OS

本文深入解析华为CCA架构下的VehicleStack软件平台,重点介绍其三层服务化设计(硬件抽象层、服务框架层、应用层)与AOS/VOS双核操作系统协同机制。该架构通过计算与通信的深度融合,推动汽车电子电气架构向集中式发展,为智能汽车提供灵活、高效的软件定义汽车解决方案。

weixin_33491377的博客 324

增加Cache命中率加快程序运行速度

场景一:改变程序运行顺序以提高Cache命中率 给定代码逻辑:当条件A成立,则执行B;否则执行C。 if (cond A) { // do sth. B } else { // do sth. C } CPU分支预测器机制:对于if条件语句,如果CPU可以预测到接下来执行的是if还是else里的指令,就可以提前将指令加载到缓存中,这样CPU就可以直接从Cache读取到指令,以加快执行速度。 下面代码给出两个操作逻辑:数组遍历和排序。 uint32_t a[100] = {0U}; // d

ZWANG987的博客 2401

手把手教你用Siemens EDA破解工具搞定PADs VX2.7安装与卡死问题

本文详细介绍了如何使用Siemens EDA工具解决PADs VX2.7的安装与卡死问题。从License配置到性能调优,提供全面的解决方案,帮助工程师高效完成电子设计自动化任务。特别针对常见的卡顿现象,给出了输入法兼容性调整、图形性能优化等实用技巧。

k8l9m0n的博客 556

CTS实战:如何用set_sense优化时钟树平衡(附ICC2避坑指南)

本文深入探讨了在时钟树综合(CTS)中,如何正确使用`set_sense`命令优化时钟树平衡,并对比了其与`set_disable_timing`的本质区别。通过实战案例详细解析了`-stop_propagation`和`-clock_leaf`参数的应用场景,并提供了ICC2工具中的关键避坑指南,帮助后端工程师精准控制时钟拓扑,避免时序分析漏洞。

weixin_28933797的博客 460

Cache 的基本概念与工作原理

cache 英 [kæʃ] 美 [kæʃ] n. 隐藏物(如武器);(秘密)贮存物;高速缓冲存储器 v. 匿藏,隐藏(尤指武器);把(数据)存入高速缓冲存储器;高速缓存 1.背景知识 随着 CPU 技术的飞速发展,常用的处理器飞奔在越来越高的频率之上,虽然处理器的速度越来越快,但是与之相匹配的存储器的速度却没有获得相应的提升,这大大限制了 CPU 的处理性能。而我们本系列文档所介绍...

EmbeddedCoder 的优快云博客 3万+

微信小程序使用TCP通信

最终目的:在微信小程序内实现对局域网发起TCP通信实现步骤:建立TCP服务 + 小程序发起通信。

Big_YiFeng的博客 5613

降低 cache 失效率的方法

cache 失效产生原因,可分为以下三类: (1)强制性失效 ​ 当第一次访问一个块时,该块不在cache中,需从下一级存储器中调入cache,这种失效称为强制性失效(Compulsory Miss),也称为冷启动失效或首次访问失效。 (2)容量失效 ​ 即使采用全相联映像,但cache容量有限,也会使得程序执行时所需的块不能全部调用cache中,则当某些块被替换后,若重新被访问,就会发生失效。这种失效称为容量失效(Capacity Miss)。 (3)冲突失效 ​ 在组相联或直接映像cache中,多

Leo ICer的博客 2309

3.DJI-payload SDK自定义控件的设计:

自定义控件(Widget)是指负载运行时,在用户界面中显示的自定义 UI 控件,以帮助用户快速查看负载独特的设备状态,或者对负载设进行设置。这些 UI 控件可以显示在以下用户界面中。Pilot 2 应用程序;大疆智图;基于 MSDK 开发的应用程序。这种自定义控件并不是通过 MSDK 实现的,而是通过 PSDK 的配置实现的。。

哒宰的博客 770

【推荐100个unity插件】Animator 的替代品?—— Animancer Pro插件的使用介绍

Animancer与Unity Animator对比及使用指南 摘要: 本文对比了Animancer与Unity官方Animator的核心差异,分析了Animancer的优势特点。Animancer采用代码驱动模式,相比Animator的状态机系统更灵活高效,支持实时调试、动态混合和深度逻辑集成。文章详细介绍了Animancer的快速使用方法,包括动画播放、切换和触发机制,并区分了免费版与专业版的功能差异。适合需要高效动画开发、复杂交互逻辑的中小项目,为开发者提供了一种现代化的动画解决方案。

向宇的博客,专注php/web全栈 unity游戏开发,欢迎大家评论纠错 2435

矩阵分块转置降低 cache miss分析 (Cache Lab PartB)

Lab中给出的cache规格为: s=5, E=1, b=5 矩阵A和B在内存中连续存放。 Lab要求分别对32 * 32 , 64 * 64, 61 * 67的矩阵做转置优化,用到的都是将矩阵分块分别转置的方法。相较于普通转置,为什么分块能够优化cache miss次数? 分块是通过什么来实现优化的 — > 通过减少B一次访问的列数。 最根本的原因在于: Cache不能够一次装满整个矩阵,以最小的矩阵32 * 32而言,是4个cache的大小。如果矩阵大小为正好能够装满cache的16 * 16或更

ToryYang的博客 3223

ArcGIS Pro 3.4 二次开发 - 布局

本文介绍了在ArcGIS Pro SDK 3.4和.NET 8环境下操作布局工程项的相关方法。主要内容包括:引用布局工程项和关联布局,在新视图中打开或激活已有布局视图,引用活动布局视图,导入/移除布局工程项,创建基本布局或带参考线的自定义布局,修改布局页面尺寸,以及创建圆形图形元素等操作。重点演示了如何通过CIM(Core Infrastructure Model)进行高级布局配置,并详细说明了圆形图形元素的创建过程,包括几何构建、符号设置和图形生成。所有涉及UI线程的操作都遵循ArcGIS Pro SDK

Winemonk 796

游戏app中如何避免出现cache miss的情况

请注意,完全避免cache miss是不可能的,因为cache的工作原理本身就决定了会有未命中的情况发生。然而,通过上述策略和最佳实践,可以显著降低cache miss的频率和影响,从而提升游戏app的性能和用户体验。在多线程环境中,确保每个线程访问的数据位于不同的cache行中,以避免伪共享导致的性能下降。使用高效的内存分配策略,如对象池,以减少内存碎片和cache污染。使用流式加载技术,按需加载资源,减少初始加载时间和内存占用。例如,在游戏循环中,尽量减少对不同内存区域的随机访问。

本博客聚焦游戏开发技巧、创业实战心得及大学热门课程干货。这里既有技术深度,也有思维广度,无论你是开发者、创业者还是高校学子,都能在这里找到适合自己的成长之路! 377

【YOLO11[基础]】分类任务的热力图可视化实践 | 论文必备 | 分类任务 | 即插即用 | 可选GradCAMPlusPlus, GradCAM, XGradCAM, EigenCAM, HiR

【YOLO11[基础]】分类任务的热力图可视化实践 | 论文必备 | 分类任务 | 即插即用 | 可选GradCAMPlusPlus, GradCAM, XGradCAM, EigenCAM, HiResCAM, LayerCAM, RandomCAM, EigenGradCAM等

静谧、淡雅 2390

visio安装包

Microsoft Office Visio 是一款专业的制图软件。利用经过更新的形状、协作工具和数据链接图表,创建专业级图表以简化复杂的信息。

编译器优化那些事儿(7):Cache优化

引言软件开发人员往往期望计算机硬件拥有无限容量、零访问延迟、无限带宽以及便宜的内存,但是现实却是内存容量越大,相应的访问时间越长;内存访问速度越快,价格也更贵;带宽越大,价格越贵。为了解决大容量、高速度、低成本之间的矛盾,基于程序访问的局部性原理,将更常用数据放在小容量的高速存储器中,多种速度不同的存储器分层级联,协调工作。图1 memory hierarchy for sever[1]现代计算机...

2301_76434200的博客 369

VC中sqlite的使用

在VC中对sqlite的使用,实现数据库大批数据的快速插入,读取数据库中的数据在ListCtrl中显示

lab4 cachelab

这个模拟cache的功能非常简单,因为不需要我们真正的去读写数据,只需要模拟进出cache的情况就可以了。因此,我们每个cache行,只需要像下面这样定义即可。int valid;int tag;

aixiaoxiao13的博客 344

VB摄像头监控

该VB模块可对摄像头捕获的画面进行录像等,可在创建的窗口进行控制

jre9下载 jdk9

(Java SE Runtime Environment 9.0) 9.0u175 官方最新版 【x86|x64】

微信开发者工具 微信小程序 [渲染层网络层错误] Failed to load font https://tdesign.gtimg.com/icon/0.3.1/fonts/t.woff

在微信开发者工具中,微信小程序加载字体文件时出现“[渲染层网络层错误]Failed to load font”报错,具体为“net::ERR_CACHE_MISS”。尽管网上提供了多种解决方案,但大多无效。最终,通过将调试基础库版本降低,问题得以解决。这一方法简单有效,无需复杂操作即可完成修复。

u013282737的博客 1908

把迭代器推上极限:Rust 性能优化的 12 把手术刀

3. 法则 1:长度已知 → 预分配一次 3.1 反例 未知长度 → 按需 grow 25 次。 3.2 修复 4. 法则 2:合并闭包,减少分支 4.1 反例 三次分支,命中率下降。 4.2 修复 5. 法则 3:手写 SIMD 批处理迭代器 5.1 需求 每 8 个 做平方和; 预分配 。 5.2 实现 5.3 基准(1e8 f32) 实现 吞吐 备注 朴素 for 0.6 GB/s 无矢量化 标准链 1.2 GB/s 部分矢量化 手写 SIM

hjia123456的博客 1206

高速缓存-CA

文章目录存储层次的基本概念CPU与RAM的速度剪刀差处理器和内存速度剪刀差摩尔定律使CPU的内容发生了变化计算机硬件系统的组成CPU中RAM的面积和晶体管比例存储层次基本原理Cache结构cache的结构Cache性能优化Cache性能分析Cache性能优化降低失效率降低MissPenalty降低HitTime提高Cache访问并行性Cache优化小结常见处理器的存储层次MIPS R10000存储...

TheBetterKong 2131

超标量处理器内部设计(七)

cache

hanxin870115的博客 54

linux服务器系统_Linux低延迟服务器系统调优

最近做了一些系统和网络调优相关的测试,达到了期望的效果,有些感悟。同时,我也发现知乎上对Linux服务器低延迟技术的讨论比较欠缺(满嘴高并发现象);或者对现今cpu + 网卡的低延迟潜力认识不足(动辄FPGA现象),比如一篇知乎高赞的介绍FPGA的文章写到“从延迟上讲,网卡把数据包收到 CPU,CPU 再发给网卡,即使使用 DPDK 这样高性能的数据包处理框架,延迟也有 4~5 微秒。更严重的问题...

weixin_39562998的博客 72

Unity 内存管理

例如用户写的C++Native插件、以及Lua分配的内存。IL2CPP的GC机制是Unity重写的Boehm(好像是分帧操作了,以前是一帧搞事情,然后卡线程)。CPU访问内存很慢,降低Cache miss的几率 =》出现 ECS 和 DOTS。台式和移动设备差异,没有独显、显存、cup面积小,缓存级数更少,大小更小。Unity的GC机制是Boehm内存回收,是不分代的,非压缩式的。防止碎片化:先加载大内存资源,再加载小内存资源。VM内存池:Mono虚拟机的内存池。

weixin_43735614的博客 298

TokenPilot:LLM代理上下文成本直降61%

论文日报

m0_60388871的博客 103

C++内存对齐优化:从原理到实战,提升40%性能的关键技术

内存对齐是计算机体系结构中的基础概念,指数据在内存中的存储地址需满足特定倍数要求,这源于CPU通过数据总线以块为单位访问内存的硬件特性。其核心原理在于,对齐访问允许CPU单次操作完成数据读写,而未对齐访问则可能导致多次内存读取与拼接,造成性能损失。从技术价值看,正确的内存对齐能显著提升缓存命中率,减少缓存行分裂与伪共享,是现代高性能计算的关键优化手段。在应用场景上,它广泛作用于高频交易、游戏引擎、数据库、音视频处理等对性能有极致要求的领域,通过优化结构体布局、缓存行对齐及SIMD向量化数据准备,能有效挖掘硬

399

如何提高cache miss

在C++代码中提升CPU缓存(Cache)命中率可以显著提高性能,特别是在处理大规模数据或需要频繁内存访问的场景中。

qq_31638535的博客 1658
上一篇: ARM体系结构的优点
下一篇: 在linux下使用core dump和map文件调试
MarsProbe
博客等级 码龄19年 1粉丝 13原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值