缓存伪共享的概念以及解决方法

最新推荐文章于 2025-09-24 20:24:44 发布
原创 最新推荐文章于 2025-09-24 20:24:44 发布 · 430 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#缓存

缓存结构

在这里插入图片描述

各个缓存，内存到CPU的时间比较

在这里插入图片描述
由于从CPU到内存比较耗时，所以现在的数据都会尽量的存在缓存中。
但是存在缓存中，就需要保证数据一致性。

缓存行

缓存以缓存行为基本单位，对应着一个内存中的数据。
在这里插入图片描述

伪共享

在这里插入图片描述
当内存中有一个数组Cell[2] = {6000, 6001}，由于数组在内存是连续存储的，而一个Cell对象 = 24字节（16字节头 + 8字节的value）
而 24+24 = 48 < 64， 所以会占用在一个缓存行中。

那么问题来了。

  • Cpu1对Cell[0]做修改
  • Cpu2对Cell[1]做查询

为了保证数据的一致性，修改操作后，会让当前的缓存行失效，所以Cpu2查询Cell[1]数据时，明明没对Cell[1]做什么操作，却发现cache miss， 从而只能回到内存去查，导致大大降低了效率。

解决方法

一个比较典型的方法是，内容填充。
一个缓存行的大小是64byte，可以在变量的前后增加内存填充，占满这64byte，从而让两个数据分别错位在不同的缓存行上，这样就避免了对一个数据的操作，而让另一个数据的缓存行也跟着失效。

这也是一种利用空间换取时间的思想。
@sun.misc.Contended注解就是基于以上的原理。

缓存--伪共享问题
qq_33014341的博客
08-03 1254
伪共享问题指两个线程A和B，他们俩写入同一个cache block的不同变量时，会导致另一个cpu核心的缓存失效的问题。 解决伪共享有两种办法 一般而言，缓存行有64字节，我们知道一个long是8个字节，填充5个long之后，一共就是48个字节。 而 Java 中对象头在32位系统下占用8个字节，64位系统下占用16个字节，这样填充5个long型即可填满64字节，也就是一个缓存行。 @Contented 注解 cocurrenthashmap 中怎...
伪共享(False Sharing)和缓存行(Cache Line)
代码大师麦克拉瑞的博客
06-28 1379
缓存行(Cache Line) https://blog.youkuaiyun.com/qq_27680317/article/details/78486220 直接说重点，概念什么的请自行百度，用最通俗的话来讲就是多核计算机的一个处理器会有多个核，每个核中会存在L1、L2缓存，多个核之间共享L3缓存，画个简单的图来表示一下： 变量位置与访问效率对比： 位置 执行效率 寄存器中 1个周期 CPU CACHE中 1~30个周期 主存中 50~200个周期 磁盘中 ...
Java：缓存行和伪共享
IT深耕十余载，大道之简
06-12 1541
在Java中，缓存行（Cache Line）和伪共享（False Sharing）是与多线程访问共享数据相关的两个重要概念。
伪共享
小时候挺菜的博客
11-26 8413
一、伪共享的定义： 伪共享的非标准定义为：缓存系统中是以缓存行（cache line）为单位存储的，当多线程修改互相独立的变量时，如果这些变量共享同一个缓存行，就会无意中影响彼此的性能，这就是伪共享。 二、CPU缓存机制 CPU 缓存的百度百科定义为： CPU 缓存（Cache Memory）是位于 CPU 与内存之间的临时存储器，它的容量比内存小的多但是交换速度却比内存要快得多。 高速...
并发底层原理之CPU缓存伪共享
CodeMavs的博客
08-25 1128
一、什么是CPU缓存 由于CPU 运算速度要比内存读写速度快上百倍，使得CPU 需要花费很长时间等待数据读取来以及写入。而高速缓存的主要是为了解决 CPU 运算速度与内存读写速度不匹配的矛盾。 在内存金字塔层次结构中，CPU高速缓存位于第二层，仅次于CPU的寄存器。 可以比对一下数据从不同存储到CPU大约传输时间： 主存 约60-80ns L3 cache 约40-45时钟周期 约15ns L2 cache 约10时钟周期 约3ns L1 cache 约3-4时钟周期 约1ns 寄存器 约1时钟
C++多线程编程时的伪共享问题及其定位和解决
zhaoyqcsdn的博客
04-13 663
伪共享是指多个线程同时修改位于同一缓存行（Cache Line）的不同变量时，由于缓存一致性协议的影响，导致缓存行在不同核心之间频繁无效化和重新加载，从而引起性能下降的现象。为了更好地理解伪共享，需要先了解缓存行的概念。现代计算机处理器通常会将主存中的数据分成固定大小的块（一般为 64 字节）加载到高速缓存（Cache）中，这个固定大小的块就是缓存行。缓存一致性协议（如 MESI 协议）用于保证多个核心之间的缓存数据一致性。当一个核心修改了某个缓存行中的数据时，其他核心中缓存该行数据的副本会被标记为无效。
【并发编程】 — 伪共享（False Sharing）底层原理及其解决方式
12-22
1.2 缓存行的概念1.3 伪共享（False Sharing）的概念 + 其可能引发的性能问题2 如何避免伪共享 — 数据填充2.1 不使用数据填充时的效率验证2.2 手动进行数据填充的效率验证2.3 通过java8新特性@sun.misc.Contended...
缓存乒乓与伪共享：多线程程序性能的隐形杀手（终极详解版）
最新发布
大四在找工作，如果公司有需要的可以联系我13086825462@163.com
09-24 1029
《缓存乒乓与伪共享：多线程程序性能的隐形杀手》揭示了现代多核处理器中两个关键性能问题。文章首先介绍了CPU多级缓存架构和64字节的缓存行概念，重点解析了MESI缓存一致性协议如何引发性能损耗。核心问题在于：当多线程频繁读写同一缓存行内的不同变量时，会导致缓存行在核心间无效化传递（缓存乒乓），以及逻辑独立但物理相邻变量间的伪共享现象。通过实测案例展示，这些问题可导致5倍以上的性能差距。文章提供了工业级解决方案，包括内存对齐填充、C++17标准库支持、线程本地存储等技术，并给出性能分析工具使用方法。最后强调，在
从Java视角理解CPU缓存和伪共享
热门推荐
ZERO
01-05 1万+
转载自：http://ifeve.com/from-javaeye-cpu-cache/               http://ifeve.com/from-javaeye-false-sharing/        CPU是计算机的大脑，它负责执行程序的指令；内存负责存数据，包括程序自身数据。内存比CPU慢很多，现在获取内存中的一条数据大概需要200多个CPU周期(CPU cycle
CPU缓存伪共享
JOHN
11-27 611
cpu缓存是由多一个缓存行组成的，缓存行时cpu缓存的最小缓存单元。目前主流的cpu缓存的缓存行大小都是64Bytes。也就是说，如果一个512字节（512 / 64 = 8）的一级缓存，就存在8个缓存行组成。如果缓存行存储的是long类型的数据，那么每个缓存行可以存储8个（64 / 8 = 8）long类型的数据。
CPU缓存行、伪共享
早上真起不来的博客
11-11 1211
文章目录CPU缓存架构CPU缓存行伪共享避免伪共享总结 CPU缓存架构 CPU 是计算机的心脏，所有运算和程序最终都要由它来执行。 主内存（RAM）是数据存放的地方，CPU 和主内存之间有好几级缓存，因为即使直接访问主内存也是非常慢的。 如果对一块数据做相同的运算多次，那么在执行运算的时候把它加载到离 CPU 很近的地方就有意义了，比如一个循环计数，你不想每次循环都跑到主内存去取这个数据来增长它吧。 越靠近 CPU 的缓存越快也越小。 所以 L1 缓存很小但很快，并且紧靠着在使用它的 CPU 内核。 L2
深入并发编程——缓存伪共享问题
qq_45838559的博客
09-08 356
Cache Line 是【已失效】状态，另外由于 1 号核心的 Cache 也有此相同的数据，且状态为【已修改】，所以要先把 1 号核心的 Cache 对应的 Cache Line 写回到内存中，然后 2 号核心再从内存中读取 Cache Line 大小的数据到 Cache 中，最后把变量修改到 2 号核心的 Cache 中，并将状态修改为【已修改】状态。CPU 从内存中读取数据到 Cache 的时候，并不是一个字节一个字节读取，而是一块一块的方式来读取数据的，这一块一块的数据被称为 CPU Line。
CPU缓存和伪共享
追梦的小狼狗
04-15 1443
CPU缓存 CPU是计算机的大脑，它负责执行程序的指令；内存负责存数据，包括程序自身数据。内存比CPU慢很多，现在获取内存中的一条数据大概需要200多个CPU周期(CPU cycles)，而CPU寄存器一般情况下1个CPU周期就够了。 网页浏览器为了加快速度，会在本机存缓存以前浏览过的数据；传统数据库或NoSQL数据库为了加速查询,常在内存设置一个缓存，减少对磁盘(慢)的IO。同样内存与CPU的速...
共享与伪共享
cenchure的专栏
11-27 1766
共享就是一个内存区域的数据被多个处理器访问，伪共享就是不是真的共享。这里的共享这个概念是基于逻辑层面的。实际上伪共享与共享在cache line 上实际都是共享的。 CPU访问的数据都是从cache line  中读取的。如果cpu 在cache 中找不到需要的变量，则称缓存未命中。 未命中时，需要通过总线从内存中读取进cache 中。每次读取的内存大小就是一个cache line 的大
伪共享之CPU缓存
A_991128a的博客
02-13 264
分享一下伪共享。一共分为两篇文章。第一篇是基础篇，主要讲CPU缓存。废话不多说直接奔主题。
并发编程-缓存一致性协议中缓存行的“伪共享”问题
qq_43783527的博客
03-09 348
伪共享 伪共享的定义 如果多个核的线程在操作同一个缓存行中的不同变量数据，那么就会出现频繁的缓存失效，即使在代码层面看这两个线程操作的数据之间完全没有关系。这种不合理的资源竞争情况就是伪共享（False Sharing） Q：避免伪共享 • 1.缓存行填充 • 2.使用 @sun.misc.Contended 注解（java8） package thread; public class FalseSharingTest { public static void main(String[] args
缓存伪共享问题以及解决方案缓存行填充
huangyueranbbc的博客
11-26 463
缓存伪共享 共享对象存在同一个缓存中，由于MESI协议，一个对象中一些不需要改变的属性因为其他改变的属性，导致整个对象的缓存进入到M被修改状态。 MESI缓存一致性协议：https://blog.youkuaiyun.com/huangyueranbbc/article/details/84554271 目前的CPU是按照64K的缓存行(Cache Line)进行读取，如果读取的数据在同一个Ca...
java中伪共享的概念以及如何避免
08-30
<think> 首先，用户的问题是：“我想了解Java中伪共享的概念以及避免方法 请问Java中伪共享的概念及避免方法”。系统指令要求我使用中文回答，并遵循特定的格式规则。 关键指令： - 行内数学表达式用 `$...$`，但在这个问题中，可能没有数学表达式，所以我需要检查是否需要使用。 - 独立公式用 `$$...$$` 并单独成段。 - LaTeX语法正确：确保任何数学表达正确。 - 使用中文回答。 - 生成相关问题：在回答末尾生成相关问题。 - 回答中引用的段落末尾自然地添加引用标识，例如 [^1]。 内容基于提供的引用： - 引用[1]：伪共享是由于多个变量共享同一缓存行导致的性能问题，volatile关键字保证可见性等，但不能保证原子性；@Contended注解可解决。 - 引用[2]：缓存行大小和布局依赖硬件和JVM，填充方法减少伪共享可能性，但不保证有效。 - 引用[3]：JDK8提供@sun.misc.Contended注解来解决伪共享。 - 引用[4]：伪共享定义——CPU缓存中以缓存行为单位存储；当多个线程修改共享同一缓存行的变量时，无意影响性能。 - 引用[5]：详细解释伪共享原理——当a或b变量被修改，整个缓存行需要刷新，导致原本独立的变量互相影响。 用户问题焦点：Java中伪共享的概念和避免方法。 结构化回答： 1. **概念解释**：先定义伪共享（False Sharing），使用引用[4]和[5]的内容。 2. **原因和影响**：解释为什么发生，基于缓存行机制。 3. **避免方法**：讨论如何避免或缓解： - 使用填充（padding）来隔离变量，确保它们不在同一缓存行（引用[2]）。 - 使用@Contended注解（引用[1]和[3]）。 - 注意volatile关键字的作用（引用[1]）。 4. **添加引用标识**：在相关内容后添加 [^数字]。 生成相关问题：在末尾，基于回答生成2-3个相关问题。 回答结构： - 清晰、逐步解决问题。 - 使用段落和列表使结构清晰。 - 确保语言是中文。 最终输出： - 回答部分。 - 相关问题部分，标记为§§相关问题§§。 现在，大纲回答： 1. **伪共享的概念**： - 定义：伪共享是指多个线程访问共享同一缓存行的不同变量时，由于缓存一致性协议，导致不必要的缓存行刷新，从而降低性能的现象。 - 原因：CPU缓存以缓存行为单位（通常是64字节），当任何变量在缓存行中被修改，整个缓存行都无效化。 - 引用[4]和[5]。 2. **如何避免伪共享**： - 填充方法：添加额外的字节使变量占据整个缓存行，避免共享。 - 使用@Contended注解：在JDK8及以后，使用此注解自动处理填充。 - 注意事项：填充方法不保证在所有硬件有效，依赖JVM实现；@Contended需要特定标志启用。 - 引用[1]、[2]、[3]。 3. **volatile关键字的作用**：保证变量的可见性和有序性，但不解决伪共享问题；它可能加剧伪共享，因为volatile变量更频繁地被访问。 相关问题： 1. 伪共享在不同CPU架构下的影响如何？ 2. 除了填充和@Contended，还有其他方法避免伪共享吗？ 3. 伪共享在实际应用中的性能影响有多大？ </think> ### Java中伪共享的概念及避免方法 在Java多线程编程中，伪共享（False Sharing）是一个重要的性能问题，它源于CPU缓存系统的机制。下面将从概念、原因、影响和避免方法逐步解释，基于相关引用内容。 #### 1. **伪共享的概念** 伪共享是指当多个线程访问共享同一缓存行（cache line）的不同变量时，由于CPU缓存一致性协议（如MESI协议），即使这些变量是独立的，对一个变量的修改也会导致整个缓存行无效化，从而迫使其他线程重新从内存加载数据，引发不必要的性能开销[^4]。 - **核心原理**： - CPU缓存系统以缓存行为单位存储数据，主流缓存行大小为64字节（Bytes）。 - 如果多个变量（如变量a和b）存储在同一个缓存行中，当线程A修改变量a时，线程B访问变量b也会受到波及：线程A需要将整个缓存行同步到内存，线程B必须重新加载整个缓存行，尽管b本身未被修改。 - 这导致原本独立的变量互相影响，降低程序性能，尤其在并行计算中表现为显著的吞吐量下降[^5]。 - **示例场景**： 假设在Java中定义了两个变量：`volatile long a` 和 `volatile long b`，它们被存储在同一个缓存行中。线程A修改`a`后，线程B读取`b`时，由于缓存行无效化，整个操作会变得更慢。这种现象被称为“伪”共享，因为它不是真正的共享变量冲突，而是缓存行共享带来的副作用[^1][^5]。 伪共享在高并发场景下尤为严重，可能导致程序性能下降数十倍[^4]。 #### 2. **伪共享的避免方法** 为避免伪共享，Java开发者可以采用以下策略，这些方法的目标是利用填充或注解来隔离变量，确保它们不共享同一缓存行。 - **填充（Padding）方法**： - **原理**：在变量周围添加额外的无用字段（padding），使每个变量独占一个缓存行。 - **实现方式**： ```java public class FalseSharingExample { // 变量a，占用一个缓存行 (假设缓存行大小为64字节) public volatile long a; private long p1, p2, p3, p4, p5, p6, p7; // 填充字段，每个字段8字节，总计56字节 // 变量b，占用另一个缓存行 public volatile long b; private long p8, p9, p10, p11, p12, p13, p14; // 额外填充 } ``` - 为什么有效？这些填充字段确保 `a` 和 `b` 位于不同的缓存行中，避免相互干扰。 - 局限性：填充方法依赖硬件缓存行大小（通常是64字节），且JVM实现或硬件变化可能影响其效果。它不能保证在所有环境中稳定生效，是一种启发式解决方案[^2]。 - **`@Contended` 注解方法**： - **原理**：JDK8引入的 `sun.misc.Contended` 注解自动为变量添加填充，无需手动计算字节。 - **实现方式**： ```java import sun.misc.Contended; public class ContendedExample { @Contended // 注解确保value独占缓存行 public volatile long value = 0L; } ``` - 使用方法：在字段或类上添加 `@Contended`，JVM在运行时处理填充。 - 优点：简化代码，减少错误；自动处理不同缓存行大小。 - 注意事项：默认需要JVM启动参数 `-XX:-RestrictContended` 来启用，且在某些JVM版本中可能受限[^1][^3]。 - **其他注意事项**： - **volatile关键字的作用**：volatile保证变量的可见性和有序性（防止指令重排），但不能解决伪共享问题。相反，volatile变量更容易触发缓存行刷新，可能加剧伪共享[^1][^4]。 - **硬件依赖性**：伪共享问题在x86和ARM等主流CPU架构中均存在，但影响程度因缓存行大小和核心数量而异。测试性能时，建议在不同环境验证填充或注解效果[^2]。 - **最佳实践**：在高性能库中使用 `@Contended`（如Java并发包），对于用户代码优先选择填充方法以兼容性考虑。 #### 3. **总结** 伪共享是Java多线程中的隐性性能瓶颈，通过填充或 `@Contended` 注解可以有效缓解。关键点： - 伪共享源于缓存行共享（64字节单位），导致独立变量互相干扰。 - 避免方法包括手动填充（简单但不可靠）或 `@Contended` 注解（推荐但需JVM支持）。 - 实际开发中，结合性能测试选择合适方案，尤其在并发密集型应用中。 通过上述方法，您可以显著减少伪共享带来的性能损失，提升多线程程序的效率[^1][^3][^4]。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值