降低Cache miss的方法

【体系结构系列】提高Cache命中率 提高Cache命中率 不命中概述 三种类型的不命中(3C) 强制性不命中(Compulsory miss) 当第一次访问一个块时,该块不在Cache中,需从下一级存储器中调入Cache。(冷启动不命中,首次访问不命中) 容量不命中(Capacity miss ) 如果程序执行时所需的块不能全部调入Cache中,则当某些块被替换后,若又重新被访问,就会发生不命中。 冲突不命中(Conflict miss) 在组相联或直接映象Cache中,若太多的块映象到同一组(块)中,则该组中某个块被别 阅读详情

在嵌入式系统中,提高代码的执行效率意义很大,尤其是对计算密集型代码。效率的增加意味着可以节省下计算能力去做更多的事,同时也意味着能耗的降低。同时提高执行效率还可以从减少I/O、降低内部总线的读写次数等方面入手。

对ARM平台上的软件开发人员,尤其是算法开发和实现人员,通过调整代码来降低Cache miss具有很大的意义,从google上可以搜到很多专业的文章,探讨调整代码来改善I-Cache和D-Cache的hit rate.以下是几种方法的简单列表。

通过软件优化(Complier和手工)来减少Cache miss.
1.指令
~.对存储访问重排序,因而可以减少冲突失效
~.进行Profiling来检测冲突

2.数据
~.合并数组(data merge):通过将两个独立数组合并为一个复合元素的数组来改进空间局部性
~.循环交换(loop interchange): 通过改变循环嵌套来按序访问存储器中存储的数据
~.循环合并(loop fusion): 将两个具有相同循环类型且有一些变量重叠的独立循环合并
~.块化(blocking):通过不断使用一些数据块(而不是完整地遍历一行和一列)来改进时间局部性
 

体系结构学习12-Cahce 1、Cache的必要性: CPU处理速度远超内存访问速度(Processor-Memory Gap) 主要体现在 latency :主存50~100ns,CPU <1ns Bandwidth:指令和数据都需要访问内存 Bandwidth-Delay Product:Little‘s Law 现实中存储单元的问题 越大地址越多驱动单元越多线越长访问越慢 越快越昂贵 带宽越宽越昂贵 2、... 阅读详情

相关推荐

【算法优化】Conv卷积算子的性能提升策略

本文深入探讨了卷积算子(Conv)的性能优化策略。针对朴素实现中严重的Cache Miss问题,详细分析了Im2Col+GEMM算法如何通过数据重组转化为高效矩阵乘法,并介绍了Winograd算法如何减少计算量。文章结合Roofline模型,阐述了提升计算强度和密度的核心思路,为算法优化提供了从理论到实践的全面指导。

weixin_29267307的博客 316

Cache原理简介及cache miss

CPU体系结构之cache小结 1.What is cache? Cache是用来对内存数据的缓存。 CPU要访问的数据在Cache中有缓存,称为“命中” (Hit),反之则称为“缺失” (Miss)。 CPU访问它的速度介于寄存器与内存之间(数量级的差别)。实现Cache的花费介于寄存器与内存之间。 现在 CPU 的 Cache 又被细分了几层,常见的有 L1 Cache, L2 Cache, L3 Cache,其读写延迟依次增加,实现的成本依次降低。 现代系统采用从 Register ―>966.

hithj_cainiao的博客 1万+

基于STM32F407的定时器以及定时器中断的实现

基于STM32F407的定时器以及定时器中断的实现

weixin_57941207的博客 5232

增加Cache命中率加快程序运行速度

场景一:改变程序运行顺序以提高Cache命中率 给定代码逻辑:当条件A成立,则执行B;否则执行C。 if (cond A) { // do sth. B } else { // do sth. C } CPU分支预测器机制:对于if条件语句,如果CPU可以预测到接下来执行的是if还是else里的指令,就可以提前将指令加载到缓存中,这样CPU就可以直接从Cache读取到指令,以加快执行速度。 下面代码给出两个操作逻辑:数组遍历和排序。 uint32_t a[100] = {0U}; // d

ZWANG987的博客 2401

Comsol固体力学仿真﹣﹣受均匀内压的厚壁球壳弹塑性分析(加载卸载全流程)

COMSOL固体力学及结构力学仿真较少,故而查询了有关资料,才建立了如下模型。图4 加载卸载全历程中的冯米塞斯应力变化。该有限元模型是通过扫掠而得的结构化网格。图2 加载卸载全历程中的塑型区域变化。图3 加载卸载全历程中的位移应力变化。图6 关键节点第一,第三主应力分布。图5 关键节点应力场与塑性区分布。《弹塑性力学》大作业,记录一下。图1 球体的有限元网格模型。

weixin_62236383的博客 1490

Android SSL证书固定实战:原理、方案与避坑指南

SSL/TLS协议是保障网络通信安全的基石,其核心原理是通过非对称加密和数字证书实现身份认证与数据加密。在移动应用开发中,为了防止中间人攻击,证书固定技术应运而生,它通过将服务器证书或公钥的哈希值预置在应用内,强制校验服务器身份,从而大幅提升通信链路的安全性。这一技术对于金融、电商等高安全要求场景尤为重要。本文聚焦Android平台,深入解析SPKI固定、Network Security Configuration与OkHttp CertificatePinner等主流方案,并针对证书更新、调试兼容等常见痛

weixin_33935636的博客 407

Cache 的基本概念与工作原理

cache 英 [kæʃ] 美 [kæʃ] n. 隐藏物(如武器);(秘密)贮存物;高速缓冲存储器 v. 匿藏,隐藏(尤指武器);把(数据)存入高速缓冲存储器;高速缓存 1.背景知识 随着 CPU 技术的飞速发展,常用的处理器飞奔在越来越高的频率之上,虽然处理器的速度越来越快,但是与之相匹配的存储器的速度却没有获得相应的提升,这大大限制了 CPU 的处理性能。而我们本系列文档所介绍...

EmbeddedCoder 的优快云博客 3万+

北斗B1频点信号捕获实战:如何应对NH码跳变带来的挑战?

本文深入探讨了北斗B1频点信号捕获中NH码跳变带来的核心挑战。针对NH码以1kHz速率调制导致的相干积分中断和相关峰畸变问题,文章提出并详细解析了一种基于伪码与多普勒频率分离技术的优化捕获方案。该方案通过差分处理消除NH跳变影响,并利用匹配滤波器与FFT分别进行码相位和多普勒频率的快速估计,有效提升了弱信号环境下的捕获灵敏度和稳定性,为北斗接收机设计提供了实用的工程参考。

joy55的博客 538

降低 cache 失效率的方法

cache 失效产生原因,可分为以下三类: (1)强制性失效 ​ 当第一次访问一个块时,该块不在cache中,需从下一级存储器中调入cache,这种失效称为强制性失效(Compulsory Miss),也称为冷启动失效或首次访问失效。 (2)容量失效 ​ 即使采用全相联映像,但cache容量有限,也会使得程序执行时所需的块不能全部调用cache中,则当某些块被替换后,若重新被访问,就会发生失效。这种失效称为容量失效(Capacity Miss)。 (3)冲突失效 ​ 在组相联或直接映像cache中,多

Leo ICer的博客 2309

保姆级教程:用Python从UCI下载波士顿房价数据集,手把手跑通线性回归、岭回归和Lasso

本文提供了一份保姆级教程,详细讲解如何用Python从UCI下载波士顿房价数据集,并手把手实现线性回归、岭回归和Lasso回归模型。内容涵盖数据获取、清洗、特征分析到模型构建与评估的全流程,特别适合机器学习初学者掌握波士顿房价预测这一经典案例。

weixin_34254848的博客 479

配电网故障重构/孤岛划分/故障恢复

程序主要复现《基于GA_BFGS算法的配电网故障恢复性重构研究_郑海广》,采用matlab编程软件实现,依据网络结构和DG供电方式对配电网进行孤岛划分,将含有 DG 的配电网拓扑结构看成一个树,搭建成连通图模型,使得将孤岛的划分变成了求取最小生成树,以网损和开关开断次数作为目标,采用 IEEE33 节点配电网为算例,通过遗传算法寻优计算,从而得到最佳的重构方案。

zhangxd212489的博客 2502

矩阵分块转置降低 cache miss分析 (Cache Lab PartB)

Lab中给出的cache规格为: s=5, E=1, b=5 矩阵A和B在内存中连续存放。 Lab要求分别对32 * 32 , 64 * 64, 61 * 67的矩阵做转置优化,用到的都是将矩阵分块分别转置的方法。相较于普通转置,为什么分块能够优化cache miss次数? 分块是通过什么来实现优化的 — > 通过减少B一次访问的列数。 最根本的原因在于: Cache不能够一次装满整个矩阵,以最小的矩阵32 * 32而言,是4个cache的大小。如果矩阵大小为正好能够装满cache的16 * 16或更

ToryYang的博客 3223

有限元ABAQUS软件安装后管理员身份运行报错:Cannot connect to license server system...如何解决?

🏆本文收录于 《全栈Bug调优(实战版)》 专栏,该专栏专注于分享我在真实项目开发中遇到的各类疑难Bug及其深层成因,并系统提供高效、可复现的解决思路和实操方案。无论你是刚入行的新手开发者,还是拥有多年项目经验的资深工程师,本专栏都将为你提供一条系统化、高质量的问题排查与优化路径,助力你加速成长,攻克技术壁垒,迈向技术价值最大化与职业发展的更高峰🚀!

**My Coding Family** 2079

游戏app中如何避免出现cache miss的情况

请注意,完全避免cache miss是不可能的,因为cache的工作原理本身就决定了会有未命中的情况发生。然而,通过上述策略和最佳实践,可以显著降低cache miss的频率和影响,从而提升游戏app的性能和用户体验。在多线程环境中,确保每个线程访问的数据位于不同的cache行中,以避免伪共享导致的性能下降。使用高效的内存分配策略,如对象池,以减少内存碎片和cache污染。使用流式加载技术,按需加载资源,减少初始加载时间和内存占用。例如,在游戏循环中,尽量减少对不同内存区域的随机访问。

本博客聚焦游戏开发技巧、创业实战心得及大学热门课程干货。这里既有技术深度,也有思维广度,无论你是开发者、创业者还是高校学子,都能在这里找到适合自己的成长之路! 377

基于STM32设计的智能防盗单车锁_349

本设计基于STM32F103RCT6单片机,研制了一种适用于户外环境的智能防盗单车锁系统。系统集成了GPS定位模块、ADXL345加速度传感器、4G通信模块(Air780E)、OLED显示屏、继电器模拟锁控模块等硬件,通过姿态感知实现车辆异常移动检测,在锁车状态下自动触发蜂鸣器报警并通过短信与APP通知用户。

868

数学建模模型总结

这是本人在两年内准备参加数学建模竞赛搜集到的模型资料,已经经过了本人的筛选和整理,希望能够对准备参加数学建模竞赛的学弟学妹们提供一些帮助!

编译器优化那些事儿(7):Cache优化

引言软件开发人员往往期望计算机硬件拥有无限容量、零访问延迟、无限带宽以及便宜的内存,但是现实却是内存容量越大,相应的访问时间越长;内存访问速度越快,价格也更贵;带宽越大,价格越贵。为了解决大容量、高速度、低成本之间的矛盾,基于程序访问的局部性原理,将更常用数据放在小容量的高速存储器中,多种速度不同的存储器分层级联,协调工作。图1 memory hierarchy for sever[1]现代计算机...

2301_76434200的博客 369

温度PID控制PLC程序

温度PID稳定控制程序,适用于欧姆龙PLC,对其他PLC也具有很大参考价值

lab4 cachelab

这个模拟cache的功能非常简单,因为不需要我们真正的去读写数据,只需要模拟进出cache的情况就可以了。因此,我们每个cache行,只需要像下面这样定义即可。int valid;int tag;

aixiaoxiao13的博客 344

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

Devexpress16.2.6破解工具

Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具

微信开发者工具 微信小程序 [渲染层网络层错误] Failed to load font https://tdesign.gtimg.com/icon/0.3.1/fonts/t.woff

在微信开发者工具中,微信小程序加载字体文件时出现“[渲染层网络层错误]Failed to load font”报错,具体为“net::ERR_CACHE_MISS”。尽管网上提供了多种解决方案,但大多无效。最终,通过将调试基础库版本降低,问题得以解决。这一方法简单有效,无需复杂操作即可完成修复。

u013282737的博客 1908

把迭代器推上极限:Rust 性能优化的 12 把手术刀

3. 法则 1:长度已知 → 预分配一次 3.1 反例 未知长度 → 按需 grow 25 次。 3.2 修复 4. 法则 2:合并闭包,减少分支 4.1 反例 三次分支,命中率下降。 4.2 修复 5. 法则 3:手写 SIMD 批处理迭代器 5.1 需求 每 8 个 做平方和; 预分配 。 5.2 实现 5.3 基准(1e8 f32) 实现 吞吐 备注 朴素 for 0.6 GB/s 无矢量化 标准链 1.2 GB/s 部分矢量化 手写 SIM

hjia123456的博客 1206

高速缓存-CA

文章目录存储层次的基本概念CPU与RAM的速度剪刀差处理器和内存速度剪刀差摩尔定律使CPU的内容发生了变化计算机硬件系统的组成CPU中RAM的面积和晶体管比例存储层次基本原理Cache结构cache的结构Cache性能优化Cache性能分析Cache性能优化降低失效率降低MissPenalty降低HitTime提高Cache访问并行性Cache优化小结常见处理器的存储层次MIPS R10000存储...

TheBetterKong 2131

超标量处理器内部设计(七)

cache

hanxin870115的博客 54

linux服务器系统_Linux低延迟服务器系统调优

最近做了一些系统和网络调优相关的测试,达到了期望的效果,有些感悟。同时,我也发现知乎上对Linux服务器低延迟技术的讨论比较欠缺(满嘴高并发现象);或者对现今cpu + 网卡的低延迟潜力认识不足(动辄FPGA现象),比如一篇知乎高赞的介绍FPGA的文章写到“从延迟上讲,网卡把数据包收到 CPU,CPU 再发给网卡,即使使用 DPDK 这样高性能的数据包处理框架,延迟也有 4~5 微秒。更严重的问题...

weixin_39562998的博客 72

Unity 内存管理

例如用户写的C++Native插件、以及Lua分配的内存。IL2CPP的GC机制是Unity重写的Boehm(好像是分帧操作了,以前是一帧搞事情,然后卡线程)。CPU访问内存很慢,降低Cache miss的几率 =》出现 ECS 和 DOTS。台式和移动设备差异,没有独显、显存、cup面积小,缓存级数更少,大小更小。Unity的GC机制是Boehm内存回收,是不分代的,非压缩式的。防止碎片化:先加载大内存资源,再加载小内存资源。VM内存池:Mono虚拟机的内存池。

weixin_43735614的博客 298

TokenPilot:LLM代理上下文成本直降61%

论文日报

m0_60388871的博客 103

C++内存对齐优化:从原理到实战,提升40%性能的关键技术

内存对齐是计算机体系结构中的基础概念,指数据在内存中的存储地址需满足特定倍数要求,这源于CPU通过数据总线以块为单位访问内存的硬件特性。其核心原理在于,对齐访问允许CPU单次操作完成数据读写,而未对齐访问则可能导致多次内存读取与拼接,造成性能损失。从技术价值看,正确的内存对齐能显著提升缓存命中率,减少缓存行分裂与伪共享,是现代高性能计算的关键优化手段。在应用场景上,它广泛作用于高频交易、游戏引擎、数据库、音视频处理等对性能有极致要求的领域,通过优化结构体布局、缓存行对齐及SIMD向量化数据准备,能有效挖掘硬

399

如何提高cache miss

在C++代码中提升CPU缓存(Cache)命中率可以显著提高性能,特别是在处理大规模数据或需要频繁内存访问的场景中。

qq_31638535的博客 1658
上一篇: ARM体系结构的优点
下一篇: 在linux下使用core dump和map文件调试
MarsProbe
博客等级 码龄19年 1粉丝 13原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值