【多线程高并发】伪共享是什么?什么是伪共享?

提高多线程程序性能的关键:了解伪共享的原理及其解决方案 而伪共享问题则是CPU缓存中的一个隐蔽的问题,它可能导致程序的性能急剧下降,特别是在多线程程序中。伪共享是指两个或多个变量被存储在同一个缓存行中,当其中一个变量被修改时,就会导致整个缓存行被更新,从而影响到其他变量的访问。CPU缓存通过缓存行来管理数据,每次从主内存中读取数据时,会将该数据所在的缓存行一起读取到缓存中,从而提高程序的访问速度。当CPU需要读取一个内存地址时,它会首先查找最靠近它的缓存层级,如果该地址在缓存中存在,则直接从缓存中读取,否则需要从主内存中读取。 阅读详情

【多线程高并发】伪共享是什么?什么是伪共享?

1.CPU架构

下图是计算的基本结构。L1、L2、L3分别表示一级缓存、二级缓存、三级缓存,越靠近CPU的缓存,速度越快,容量也越小。所以L1缓存很小但很快,并且紧靠着在使用它的CPU内核;L2大一些,也慢一些,并且仍然只能被一个单独的CPU核使用;L3更大、更慢,并且被单个插槽上的所有CPU核共享;最后是主存,由全部插槽上的所有CPU核共享。

计算机CPU与缓存示意图

级别越小的缓存,越接近CPU, 意味着速度越快且容量越少。

L1是最接近CPU的,它容量最小,速度最快,每个核上都有一个L1 Cache(准确地说每个核上有两个L1 Cache, 一个存数据 L1d Cache, 一个存指令 L1i Cache);

L2 Cache 更大一些,例如256K,速度要慢一些,一般情况下每个核上都有一个独立的L2 Cache;二级缓存就是一级缓存的缓冲器:一级缓存制造成本很高因此它的容量有限,二级缓存的作用就是存储那些CPU处理时需要用到、一级缓存又无法存储的数据。

L3 Cache是三级缓存中最大的一级,例如12MB,同时也是最慢的一级,在同一个CPU插槽之间的核共享一个L3 Cache。三级缓存和内存可以看作是二级缓存的缓冲器,它们的容量递增,但单位制造成本却递减。

L3 Cache和L1,L2 Cache有着本质的区别。,L1和L2 Cache都是每个CPU core独立拥有一个,而L3 Cache是几个Cores共享的,可以认为是一个更小但是更快的内存

2.缓存行 cache line

缓存,是由缓存行Cache Line组成的。一般一行缓存行有64字节。所以使用缓存时,并不是一个一个字节使用,而是一行缓存行、一行缓存行这样使用;换句话说,CPU存取缓存都是按照一行,为最小单位操作的。

Cache Line可以简单的理解为CPU Cache中的最小缓存单位。目前主流的CPU Cache的Cache Line大小都是64Bytes。假设我们有一个512字节的一级缓存,那么按照64B的缓存单位大小来算,这个一级缓存所能存放的缓存个数就是512/64 = 8个。

3.伪共享问题

CPU的缓存系统是以缓存行(cache line)为单位存储的,一般的大小为64bytes。在多线程程序的执行过程中,存在着一种情况,多个需要频繁修改的变量存在同一个缓存行当中。

假设:有两个线程分别访问并修改X和Y这两个变量,X和Y恰好在同一个缓存行上,这两个线程分别在不同的CPU上执行。那么每个CPU分别更新好X和Y时将缓存行刷入内存时,发现有别的修改了各自缓存行内的数据,这时缓存行会失效,从L3中重新获取。这样的话,程序执行效率明显下降。为了减少这种情况的发生,其实就是避免X和Y在同一个缓存行中,可以主动添加一些无关变量将缓存行填充满,比如在X对象中添加一些变量,让它有64 Byte那么大,正好占满一个缓存行。

img

两个线程(Thread1 和 Thread2)同时修改一个同一个缓存行上的数据 X Y:

如果线程1打算更改a的值,而线程2准备更改b的值:

Thread1:x=3;

Thread2:y=2;

由x值被更新了,所以x值需要在线程1和线程2之间传递(从线程1到线程2),x的变更会引起整块64bytes被交换,因为cpu核之间以cache lines的形式交换数据(cache lines的大小一般为64bytes)。

每个线程在不同的核中被处理。x,y是两个频繁修改的变量,x,y,还位于同一个缓存行.

如果,CPU1修改了变量x时,L3中的缓存行数据就失效了,也就是CPU2中的缓存行数据也失效了,CPU2需要的y需要重新从内存加载。

如果,CPU2修改了变量y时,L3中的缓存行数据就失效了,也就是CPU1中的缓存行数据也失效了,CPU1需要的x需要重新从内存加载。

x,y在两个cpu上进行修改,本来应该是互不影响的,但是由于缓存行在一起,导致了相互受到了影响。

伪共享问题(False Sharing) 全网最清晰的解答:

对缓存行中的单个变量进行修改了,导致整个缓存行数据也就失效了,并且,会导致其他CPU的含有被改动的共享变量的缓存行也失效了,就是所谓的伪共享问题。

而缓存行是为了解决缓存一致性的问题,所引入的。所以,解决缓存一致性的问题,又导致了伪共享问题的出现。

4.伪共享问题的解决方案

简单的说,就是 以空间换时间: 使用占位字节,将变量的所在的 缓冲行 塞满。

disruptor 无锁框架就是这么干的。

5.缓冲和塞满的例子

下面是一个填充了的缓存行的,尝试 p1, p2, p3, p4, p5, p6为AtomicLong的value的缓存行占位,将AtomicLong的value变量的所在的 缓冲行 塞满,

代码如下:

package com.baidu.fsg.uid.utils;

//...省略import
public class PaddedAtomicLong extends AtomicLong {
    private static final long serialVersionUID = -3415778863941386253L;

```
/** Padded 6 long (48 bytes) */
public volatile long p1, p2, p3, p4, p5, p6 = 7L;

/**
 * Constructors from {@link AtomicLong}
 */
public PaddedAtomicLong() {
    super();
}

public PaddedAtomicLong(long initialValue) {
    super(initialValue);
}

/**
 * To prevent GC optimizations for cleaning unused padded references
 */
public long sumPaddingToPreventOptimjavaization() {
    return p1 + p2 + p3 + p4 + p5 + p6;
}
```

}

例子的部分结果如下:

printable = com.crazymakercircle.basic.demo.cas.busi.PaddedAtomicLong object internals:
 OFFSET  SIZE   TYPE DESCRIPTION                               VALUE
      0     4        (object header)                           01 00 00 00 (00000001 00000000 00000000 00000000) (1)
      4     4        (object header)                           00 00 00 00 (00000000 00000000 00000000 00000000) (0)
      8     4        (object header)                           50 08 01 f8 (01010000 00001000 00000001 11111000) (-134150064)
     12     4        (alignment/padding gap)                  
     16     8   long AtomicLong.value                          0
     24     8   long PaddedAtomicLong.p1                       0
     32     8   long PaddedAtomicLong.p2                       0
     40     8   long PaddedAtomicLong.p3                       0
     48     8   long PaddedAtomicLong.p4                       0
     56     8   long PaddedAtomicLong.p5                       0
     64     8   long PaddedAtomicLong.p6                       7
Instance size: 72 bytes
Space losses: 4 bytes internal + 0 bytes external = 4 bytes total
JVM如何处理多线程内存抢占问题 在多线程环境下,JVM通过多种机制高效、安全地管理内存分配,避免线程竞争导致的性能下降或数据不一致问题。主要机制包括:TLAB(Thread-Local Allocation Buffer),为每个线程提供私有内存缓冲区,减少全局堆内存的竞争;CAS(Compare-And-Swap)操作,确保全局堆内存分配的原子性;逃逸分析,将未逃逸对象分配在栈上,避免堆内存竞争;以及锁优化技术如偏向锁和自旋锁,减少线程阻塞。此外,JVM还通过堆内存结构(新生代和老年代)和内存分配方式(指针碰撞和空闲列表)来优化内存管理 阅读详情

相关推荐

Python邮件自动化实战:基于imaplib和email库的高效邮件管理方案

本文详细介绍了如何使用Python的imaplib和email库实现高效邮件自动化管理。通过实战案例展示自动收取、解析邮件、下载附件等核心功能,帮助开发者快速构建企业级邮件处理系统,大幅提升工作效率。特别适合需要处理大量邮件的金融、数据分析等场景。

weixin_30500105的博客 621

什么是伪共享(false sharing)

今天看go的sync.pool的代码,发现了一个比较陌生的名词 false sharing , 之前没听说过,就去查了下,瞬间学到了 type poolLocal struct { poolLocalInternal // Prevents false sharing on widespread platforms with // 128 mod (cache line s...

哇哦~ 1万+

ZedBoard+Vivado(二)——PS + PL实现流水灯

硬件:Zedboard 软件:Vivado2018.2 + Win10 本文参考了http://blog.chinaaet.com/cuter521/p/35978的设计 1 设计 功能:PS + PL流水灯 语言:C 流程:创建工程->IP Integrator->综合、实现、生成Bitstream->SDK 2 流程 2.1 创建工程 跟上一篇步骤完全相同,这里不用添加源文...

q416524389的博客 3702

伪共享(False Sharing)

目录 一、计算机的基本结构 二、缓存行 三、伪共享 四、如何避免伪共享 缓存系统中是以缓存行(cache line)为单位存储的,当多线程修改互相独立的变量时,如果这些变量共享同一个缓存行,就会无意中影响彼此的性能,这就是伪共享。 一、计算机的基本结构 下图是计算的基本结构。L1、L2、L3分别表示一级缓存、二级缓存、三级缓存,越靠近CPU的缓存,速度越快,容量也越小。所以L1缓存很...

lyj2018gyq的博客 831

保姆级教程:用QSTEM和DrProbe搞定你的第一张STEM模拟图(附Fe3O4实例文件)

本文提供了一份详细的STEM模拟图像生成教程,涵盖从晶体结构获取到最终图像模拟的全过程。通过QSTEM和DrProbe软件的操作指南,帮助材料科学研究者快速掌握STEM模拟技术,特别适合初学者。教程包含Fe3O4实例文件,详细解析参数设置、计算优化和结果分析等关键步骤。

weixin_33730836的博客 527

Kriging代理模型理论相关推导

代理模型,Kriging,加点准则

森屹的博客 1万+

伪共享(false sharing),并发编程无声的性能杀手

共享(false sharing),并发编程无声的性能杀手 在并发编程过程中,我们大部分的焦点都放在如何控制共享变量的访问控制上(代码层面),但是很少人会关注系统硬件及 JVM 底层相关的影响因素。前段时间学习了一个牛X的高性能异步处理框架 Disruptor,它被誉为“最快的消息框架”,其 LMAX 架构能够在一个线程里每秒处理 6百万 订单!在讲到 Disruptor 为什么这么快时,接触到了一个概念——伪共享( false sharing ),其中提到:缓存行上的写竞争是运行在 SMP 系统中并行线

felby的博客 1029

Meta-World环境实战解析:pick-place-v2中的状态观测与动作控制

本文深入解析了Meta-World中pick-place-v2环境的强化学习实战要点。文章详细拆解了39维状态观测向量的构成与意义,包括机械臂末端、物体位置及目标坐标,并揭示了默认部分可观测设置的潜在影响。同时,阐述了4维动作空间的控制逻辑与奖励函数的分阶段设计,为训练高效稳定的抓放策略提供了核心指导与实用调优技巧。

weixin_29184371的博客 78

伪共享问题即解决方式

由于缓存读取的机制,不是一次只读一行文字,而是一次读取一个CacheLine的数据(64位的CPU的CacheLine大小为64字节)。当两个无关的但经常被访问的数据同时存在于一个CacheLine中时,就会引发伪共享的问题。可以看到,x和y完全没有任何关系,但是更新x的时候会把其它包含x的缓存行失效,同时y也就失效了,运行这段程序输出的时间为3890ms。通过宏定义,将b强行放在a的下一行CacheLine中,这样,一次性就无法同时读取ab。宏定义,是用于解决伪共享的问题。应用层面(Java版)

kyrieyu111的博客 770

AI视频生成本地搭建图文详细过程

在自己的电脑上搭建一个AI,主要用于通过自己输入的关键字来自动生成视频文案,把视频文案自动生成视频,再自动给视频配音配字幕。

张小三的博客 4699

在windows中安装并启动ActiveMQ5.16.2

打开ActiveMQ官网 下载ActiveMQ 点击apache-activemq-5.16.2-bin.zip进行下载 下载发后解压到c盘根目录下 在powershell中输入 ./activemq start启动 ActiveMQ服务 htpp://127.0.0.1:8161访问ActiveMQ控制台 ...

935

【多线程与高并发】volatile的底层原理与实现、缓存一致性、伪共享等问题

volatile的底层原理与实现 volatile的底层原理: 保证线程间变量的可见性。 禁止CPU进行指令重排序。 什么是缓存行 缓存行(CacheLine)是位于CPU和内存中间的高速缓存。高速缓存一般分为三级,分别为L1、L2、L3 说明: L1、L2位于核内,一个核独享。 L3位于CPU内,多个核共享。 缓存一致性协议 在多核CPU中,由于存在高速缓存,一个数据会在多个核的高速缓存中存在副本,当一个核中的数据发生修改时,另一个核中的数据就会发生不一致性的情况,而缓存一致性协议就是为了CPU的

your_棒棒糖的博客 367

将指定文件夹下每张用LabelImg标注的图片中标注部分抠出来保存到指定文件夹下。

将指定文件夹下每张用LabelImg标注的图片中标注部分抠出来保存到指定文件夹下。

weixin_44119674的博客 441

[Java复习03] 多线程 Multithreading

Q1多线程基础 进程和线程? 进程: 1. 一段程序执行过程,动态的,相对而言程序是静态的。(与类和对象的关系类似) 2. CPU资源分配最小单元,包括CPU调度和资源管理。 3. 一个进程可以有多个线程。 线程: 1. 程序执行流的最小单元。 2. CPU调度的最小单位,只负责CPU调度,不负责资源管理。 ...

weixin_30779691的博客 110

visio安装包

Microsoft Office Visio 是一款专业的制图软件。利用经过更新的形状、协作工具和数据链接图表,创建专业级图表以简化复杂的信息。

pscad IEEE标准系统搭建说明

pscad IEEE标准系统搭建说明,包含典型的IEEE 9节点、14节点、30节点、39节点和118节点系统。内含标准测试系统的原始数据和潮流结果。

Java多线程编程深度解析高并发场景下的性能优化与线程安全实战

实践验证:通过压测工具(如JMeter、 Gatling)模拟高并发场景,结合`JStack`、`VisualVM`分析线程状态与锁竞争。- 原子类:使用`AtomicInteger`、`AtomicReference`等无锁类替代传统的`synchronized`。2. 锁竞争:共享资源的同步锁(如`synchronized`或`ReentrantLock`)可能导致线程阻塞,降低并发度。- 同步工具:`ReentrantLock`, `CountDownLatch`, `Semaphore`

enyiJeit的博客 295

WINCC7.3破解文件

WINCC7.3硬件够破解文件,有需要的下载!WINCC7.3硬件够破解文件,有需要的下载!

字节二面:小伙子你来说下什么是伪共享?如何避免?

周末的时候,有个读者跟我说,面试字节的时候被问到:「什么是伪共享?又该怎么避免伪共享的问题?」 这个其实是考察 CPU 缓存的问题,我之前的图解系统也有提到过。

Javatutouhouduan的博客 580

霍尼韦尔SoftMaster使用说明

霍尼韦尔SoftMaster使用说明

高并发编程

高并发 为什么多线程 进程之间不能共享内存,而线程之间可以共享内存(堆内存) 创建进程时,需要重新分配系统资源,创建线程代价很小,所有多并发时候,效率更高 java本身内置多线程的功能支持 线程和进程分别如何通信 进程依靠IPC资源 比如管道pipes 套接字sockets 线程依靠jvm的Api wait() notify() notifyall() 线程活锁 相互让出资源的竞争给对方,...

weixin_30809173的博客 175

java并发性能陷阱--伪共享

在之前的文章中,我们聊过JMM java的内存模型(一定要有所了解,不太清楚的同学可以看下前文链接https://www.cnblogs.com/jilodream/p/9452391.html),可以知道线程并不是直接读写内存,而是调用线程自己的工作空间。这是不会的,缓存块是根据内存的地址和偏移量划分好的,不会根据不同核来划分不同的边界的。这样当线程1每次修改变量a,线程2每次修改变量b时,当前缓存都不断的需要重新加载,本质上已经失去了缓存的意义,还增加了缓存状态控制,缓存重新加载的开销。

buzhichi1的博客 653

CPU缓存共享:多线程应用的缓存优化

你是否曾遇到过这样的困惑:明明给程序开了8个线程,CPU占用率却始终上不去?数据处理速度甚至比单线程还要慢?这很可能是CPU缓存共享(Cache Sharing)在背后"捣鬼"。本文将从缓存架构讲起,通过3个实用优化技巧,帮你解决多线程应用的性能瓶颈。读完你将掌握:缓存行填充技术、NUMA架构下的内存分配策略,以及如何用Per-CPU变量消除缓存竞争。 ## 缓存共享的"甜蜜陷阱" 现代CPU...

gitblog_01033的博客 946

@Contended

在这个例子中,`counter1` 和 `counter2` 被标记为 `@Contended`,这意味着编译器会在它们之间插入额外的填充字段,以确保它们不会位于同一缓存行中。- **优化多线程性能**:在高并发场景下,使用 `@Contended` 可以显著提升性能,尤其是在频繁更新的状态变量上。- **性能开销**:虽然 `@Contended` 可以减少伪共享,但它也会增加对象的内存占用,因为需要额外的填充字段。### `@Contended` 注解的作用。

qq_31273845的博客 433

高并发Java多线程优化实战:线程池、锁与并发容器调优

并发编程是构建高吞吐后端系统的核心能力,而线程池、锁与并发容器正是支撑高并发场景的三大基石。理解线程生命周期与上下文切换成本,是避免盲目增加线程数的前提;掌握锁升级机制与粒度控制,可以有效降低竞争开销;选对ConcurrentHashMap等并发容器,则能在保证线程安全的同时最大化并行度。这些技术广泛用于订单履约、秒杀库存、配置读取等典型业务场景,直接决定接口的响应速度与系统稳定性。本文基于真实调优案例,从线程池参数配置、锁的选型与避坑,到库存扣减从单机锁到Redis预扣减的完整演进,系统梳理高并发应用优化

weixin_30844577的博客 232

JAVA多线程循环读写导致False Sharing伪共享问题解析

在理解False Sharing之前,我们需要先了解CPU缓存的工作方式。为了提高CPU访问内存的速度,现代CPU通常会采用多级缓存结构,例如L1、L2、L3缓存。这些缓存并不是以单个字节为单位进行存储,而是以。

weixin_41455464的博客 982

多核架构优化是现代计算机系统中提升性能的关键技术,特别是在多线程和高并发场景下,充分利用多核 CPU 的并行能力,同时避免瓶颈如伪共享、锁竞争和内存访问延迟

结合我们之前的讨论(结构体、内存对齐、位段、缓存行、最小生成树、优先队列等),本文将深入探索多核架构优化的原理、策略、与数据结构的结合、跨平台注意事项,以及在实际应用中的权衡。6.3 温柔告白多核优化如多核 CPU 的交响乐,以并行为旋律,协调缓存与线程,结合 STL 和数据结构,展现了 C++ 的高效与优雅。三、多核架构优化与数据结构的结合3.1 链表中的多核优化优化链表节点,避免伪共享,结合线程池并行处理。7.3 完整示例结合多核、缓存行、位段和并行 Prim 算法:cpp。

专注于前沿技术的探索与实践,热衷于从代码逻辑、架构设计到行业应用等多维度深挖技术本质。期待在技术之路上与你共同成长~ 942

LongAdder类学习小结

前段时间研究了下sentinel系统,这个过程中遇到的一些知识点在这里记录下;如下内容和理解大多来源于网络。 主要知识点:LongAdder类 伪共享(False sharing)和cpu缓存行LongAdder类LongAdder类是Doug Lea的杰作,jdk8中已把该类收录在concurrent包下。 在多线程环境下,我们计数qps、某段时间调用错误量这类计算时,想到的是AtomicI

feipi83的专栏 551

为什么你的多线程程序依然慢?揭开线程局部存储配置失误的真相

掌握线程局部存储的优化技巧,解决多线程程序性能瓶颈。适用于高并发场景,通过合理配置TLS减少锁争用与内存开销,提升执行效率。揭示常见配置误区及改进方案,显著增强程序响应速度。值得收藏

LearnPlex的博客 875

【亲测免费】 scalloc: 高性能多核内存分配器

scalloc: 高性能多核内存分配器 项目介绍 scalloc 是一款由奥地利计算系统小组开发的并发内存分配器。它专为解决多线程环境下,特别是在多核心处理器上的高效、可扩展及低内存开销需求而设计。通过引入虚拟跨度来统一处理小对象与大对象,并利用高效的空闲内存回收机制,scalloc 能在保证高性能和多核并行扩展性的同时,减少内存消耗。此外,其采用的全局数据结构和常数时间(同步除外)的分配与释放...

gitblog_00759的博客 433
上一篇: 【面试高频题】CMS垃圾收集器是如何工作的?
下一篇: 【Java锁体系】Disruptor是什么?什么是Disruptor?
mind_programmonkey
mind_programmonkey 领域专家: 算法与数据结构技术领域 领域专家: 算法与数据结构技术领域
博客等级 码龄9年 4435粉丝 1111原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

mind_programmonkey

你的鼓励是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值