CPU高速缓存与JMM

等离子体密度诊断集 在实验上不仅要对带电粒子的分布和运动状态进行诊断,如电子温度、电子密度、电离温度等参数,还需要对等离子体中的中性粒子进行必要的实验测量,来获得有关物种的产生、能量分布以及各个激发态布居数分布等信息,如气体温度、转动温度、振动温度、激发温度等参数。 阅读详情

CPU高速缓存

为了解决CPU越来越快的运行速度与相对较慢的主存访问速度的矛盾。CPU中的寄存器数量有限,在执行内存寻址指令时,经常需要从内存中读取指令所需的数据或是将寄存器中的数据写回内存。引入高速缓存后,CPU在需要访问主存中某一地址空间时,高速缓存会拦截所有对于内存的访问,并判断所需数据是否已经存在于高速缓存中。如果缓存命中,则直接将高速缓存中的数据交给CPU;如果缓存未命中,则进行常规的主存访问,获取数据交给CPU的同时也将数据存入高速缓存。

缓存一致性

在多核CPU的架构下,通常每一个核心都拥有着自己独有的高速缓存,每个核心能并发的读写自己的高速缓存。**高速缓存可以有多个,但其对应的内存数据逻辑上却只有一份,多核并发的修改其高速缓存中同一内存的映射数据就会出现高速缓存中的数据不一致的问题。**如果不对多核CPU下的高速缓存并发访问施加一定的约束,那么并发程序中对共享内存数据的存取就会出现问题,并发程序的正确性将无法得到有效保障。

内存屏障

内存屏障有两个作用:

  1. 阻止屏障两侧的指令重排序(禁止CPU指令重排);
  2. 强制把写缓冲区/高速缓存中的脏数据等写回主内存,让缓存中相应的数据失效。

针对关键的任务间共享变量的读写需要使用内存屏障保证其在多核间高速缓存的一致性。在对共享变量的写入指令后,加入写屏障,令新的数据立即对其它核心可见;在对共享变量的读取指令前,加入读屏障,令其能获取最新的共享变量值。

硬件层的内存屏障分为两种:Load Barrier 和 Store Barrier即读屏障和写屏障。

读屏障:在指令前插入Load Barrier,可以让高速缓存中的数据失效,强制从新从主内存加载新数据;

写屏障:在指令后插入Store Barrier,能让写入缓存中的最新数据更新写入主内存,让其他线程可见。

指令重排

CPU指令重排

 Cpu为了提高效率会对指令进行重排序,以适合cpu的顺序运行。但是指令重排会遵守As-if-serial的规则,就是所有的动作(Action)都可以为了优化而被重排序,但是必须保证它们重排序后的结果和程序代码本身的应有结果是一致的。所以这种情况在单线程中不会出现什么问题。而对于多线程,这个规则就失效了,所以可能会导致结果出现问题。

​ 解决办法就是内存屏障,也叫内存栅栏。是一种屏障指令,cpu指令。Java中的实现方式就是使用volatile关键字,既可以解决可见性,又可以禁止指令重排。

JIT编译指令重排

当虚拟机发现某个方法或代码块的运行特别频繁的时候,就会把这些代码认定为“热点代码”。为了提高热点代码的执行效率,在运行时,即时编译器(Just In Time Compiler )会把这些代码编译成与本地平台相关的机器码,并进行各种层次的优化。

volatile

内存屏障是硬件层的概念,不同的硬件平台实现内存屏障的手段并不是一样,java通过volatile这些差异,统一由jvm来生成内存屏障的指令。

可见性问题:让一个线程堆共享变量的修改,能够及时的被其他线程看到。

Java内存模型规定:对volatile变量v的写入,与所有其他线程后续堆v的读同步

所以volatile关键字具有如下功能:

  1. 禁止缓存;volatile变量的访问控制符会加个ACC_VOLATILE,写入和读取都不能够被缓存,即写入从缓存同步到主内存中,读操作从主内存中读取,使高速缓存失效。
  2. 对volatile变量相关的指令不做重排序

JMM

jit编译示例

public class DemoVisibility {
    int i=0;
    boolean isRunning=true;
    public static void main(String[] args)throws  InterruptedException {
        DemoVisibility demo=new DemoVisibility();
        new Thread(new Runnable() {
            @Override
            public void run() {
                System.out.println("here i am...");
                while (demo.isRunning){
                    demo.i++;
                }
                System.out.println(demo.i);//当jvm是client模式时可以打印出,为server模式无法打印出
            }
        }).start();
        Thread.sleep(3000L);
        demo.isRunning=false;
        System.out.println("shutdown....");
    }
}

代码解析

上面的代码,运行情况可以用下图表示:子线程当isRunning=true 作为while循环条件,主线程三秒后将isRunning赋值为false,

根据高速缓存协议的存在,CPU间会同步isRunning=false值到高速缓存的,可能短时间内会存在没有及时通报不的情况,但是还是会同步的。但是示例一直没有打印 System.out.println(demo.i),造成这个的原因是jit编译,通过volatile关键字可以禁止jit的缓存和指令重重排
在这里插入图片描述

一直没有打印demo.i图解

如下图所示,jvm一行行执行(解释执行)通过编译器执行前编译后的代码,当方法被多次调用或者方法中的循环体多次调用,解释执行上升为编译执行(jit,会进行指令重排,性能优化,优化后的代码成了while(true),如下所示),优化后的代码放入到方法区中,供jvm调用执行

在这里插入图片描述

在这里插入图片描述

解决方案

通过添加volatile关键字实现禁止缓存和禁止指令重排。

JIT编译器(Just In TIme Compiler)

解释执行:即咱们说的脚本,在执行时,由语言的解释器将其中一条条翻译成机器可识别的指令

在这里插入图片描述

编译执行:将我们编写测程序,直接编译成机器可以识别的指令码。

在这里插入图片描述


执行方式不同,二者的优势各有不同
静态语言(编译方式):编译器一次性生成目标代码,优化更充分,程序运行时速度更快。
1)对于相同的源代码,编译所产生的的目标代码执行速度更快。
2)目标代码不需要编译器就可以运行,在同类操作系统上使用灵活。
脚本语言(解释方式):执行程序时需要源代码,维护更加灵活。
1)解释执行需要保留源代码,程序纠错和维护十分方便。
2)只要存在解释器,源代码可以在任何操作系统上运行,可移植性好。

java的编译执行和解释执行

Java在编译时期,通过将源代码编译成.class ,配合JVM这种跨平台的抽象,屏蔽了底层计算机操作系统和硬件的区别,实现了“一次编译,到处运行” 。 而在运行时期,目前主流的JVM 都是混合模式(-Xmixed),即解释运行 和编译运行配合使用。解释器的优势在于不用等待,编译器则在实际运行当中效率更高。在Java虚拟机运行时,解释器和即时编译器能够相互协作,各自取长补短,从而提高运行效率.

jit触发的条件(java转为解释执行)

(1)被多次调用的方法

(2)被多次执行的循环体

对于第一种,编译器会将整个方法作为编译对象,这也是标准的JIT 编译方式。对于第二种是由循环体出发的,但是编译器依然会以整个方法作为编译对象,因为发生在方法执行过程中,称为栈上替换。

JMM 包括

Share Variables (共享变量)定义

可以在线程之间共享的内存称为共享内存或堆内存。

所有实例字段、静态字段、和数组元素都存储在堆内存中,这些字段和数组都是共享变量。

冲突:如果至少一个访问是写操作,那么对同一个变量的两次访问是冲突的。

这些能被多线程访问的共享变量是内存模型规范的对象。

线程间操作的定义

  1. 线程间操作:一个程序执行的操作被其他线程感知或被其他线程直接影响。

  2. Java内存模型只描述线程间操作,不描述线程内操作,线程内操作按照线程内语义执行。

    线程间操作有:

    1. read操作(一般读,非volatile读)
  3. write操作(一般写,非volatile写)
    3. volatile read

  4. volatile write
    5. Lock(锁monitor)、Unlock

  5. 线程的第一个操作和最后一个操作

外部操作,多线程操作同一个数据库

对于同步的规则定义
  1. 对volatile变量v的写入,与所有其他线程后续对v的读同步
  2. 对于监视器m的解锁*与所有后续操作对m的加锁**同步(线程t1和t2争抢m锁,t1获取成功对共享变量的操作,t1释放后,t2抢到锁对t1对共享变量的操作可见)

对于每个属性写入默认值(0,false,null)与每个线程对其进行的操作同步。(表示不同线程创建的同一类的对象中的属性初始值一样)

Happens-before

heppens-before关系用于描述两个有冲突的动作之间的顺序,如果一个action happends before另一个action ,则第一个操作被第二个操作可见,JVM需要实现如下happens-before规则:

  1. 某个线程的每个动作都happens-before该线程中该动作后面的动作

  2. 某个管程上unlock动作heppens-before同一管程上后续的lock操作。(同一个锁的unlock操作happens-before此锁的lock操作,多线程情况下,一个线程进行了解锁的操作,对于晚于该操作的加锁能够及时感应到锁的状态变化,解锁的操作对后面加锁的线程可见)

  3. 对某个volatile字段的写操作happens-before每个后续对该volatile字段的读操作。(对valatile变量的写操作的结果对于发生于其后的线程的读操作可见)

  4. 在某个线程对象上调用start()方法happens-before被启动线程的任意动作。

  5. 如果在线程t1中成功执行了t2.join,则t2中所有操作对t1可见。(线程A调用B的join方法),当B线程执行完成后,A线程调用Bjoin后的操作,B线程修改共享变量对A可见。

  6. 如果某个动作a happen-before动作b,且 b heppen-before c,则有a happens-before c.

  7. 如果在线程t1中成功执行了t2.join,则t2中所有操作对t1可见。(线程A调用B的join方法),当B线程执行完成后,A线程调用Bjoin后的操作,B线程修改共享变量对A可见。

  8. 如果某个动作a happen-before动作b,且 b heppen-before c,则有a happens-before c.

【100%通过率】2024华为OD机试真题E卷 C++ 实现【栈数据合并/空栈压数】 向一个空栈压入正整数,每当压入一个整数时,执行以下规则(设: 栈顶至栈底整数依次编号为n1、n2...nx, n1为最新压入的整数) 阅读详情

相关推荐

5G中的RedCap

5G中的redcap

大家好,我是码农老gou,一名专注于编程技术的程序员。在这个博客中,我将与大家分享我在工作和学习中的经验、见解以及一些实用的技术干货。 2528

【线程安全的讨论(一)】CPU多核缓存架构和JMM

Java 虚拟机规范中曾经试图定义一种Java内存模型,来屏蔽各种硬件和操作系统的内存访问之间的差异,以实现让Java程序在各种平台上都能达到一致的内存访问效果。在此之前,主流程序语言直接使用物理内存和操作系统的内存模型,会由于不同平台的内存模型差异,可能导致程序在一套平台上发挥完全正常,在另一台就可能发生错误,所以在某种常见的场景下,必须针对平台来进行代码的编写。

qq_63691275的博客 1123

livox avia平台搭建

livox雷达数据采集平台搭建

Shilong的博客 1311

java基础—java内存模型(JMM)CPU架构、缓存一致性、重排序、JMM的实现、JMM保证可见性、有序性问题的详解

java内存模型详解(JMM常见面试题),CPU架构、缓存一致性、重排序、JMM的实现、JMM保证可见性、有序性问题的详解。

江哈哈的博客 3443

CAN通信:EB中配置CAN驱动,配置参数解析

以S32K314芯片说明,其他芯片不同,参数配置也有差异。

zhangxiaio1的博客 2174

elevation mapping算法3之使用D435i相机离线或在线订阅点云和tf关系生成高程图

本文主要学习使用D435i相机发出的点云作为高程图的点云输入,如何离线输入点云生成高程图,进一步学习如何在线订阅点云生成高程图。

重点记录机器人和自动驾驶相关领域的技术,尤其是计算机视觉,视觉SLAM等,不仅有前言文献或必备算法的学习,也会有实际应用的点滴经验 3491

JAVA系列之内存模型(JMM)

Java内存模型是在硬件内存模型上的更高层的抽象,它屏蔽了各种硬件和操作系统访问的差异性,保证了Java程序在各种平台下对内存的访问都能达到一致的效果。Java内存模型是不可见的,它并不是一个真实的东西,它只是一个概念、一个规范。1、硬件内存架构使得必须建立内存模型来保证多线程环境下对共享内存访问的正确性;2、Java内存模型定义了保证多线程环境下共享变量一致性的规则;3、Java内存模型提供了工作内存与主内存交互的八大同步操作和八大规则;

sloveb123的博客 759

AUTOSAR EcuM模块介绍

AUTOSAR EcuM概述 AUTOSAR EcuM全称是Autosar ECU State Manager,位于Autosar BSW中System Service模块中,是一个独立于硬件的模块。 其主要作用是管理ECU上下电启动的状态,具体为: 初始化启动操作系统所需要的BSW(Basic Software)模块 为睡眠阶段和随后的唤醒完成微控制器的配置准备 管理ECU上的所有唤醒事件(EcuM通过唤醒验证协议验证已发生的唤醒,区分真实的唤醒事件,防止误唤醒) EcuM支持的特性列表 EcuM具有

酒无忧的博客 2997

Java并发编程(4) —— Java 内存模型(JMM)详解

CPU 从单核发展为多核,导致出现了多个核间的缓存一致性问题 --> 为了解决缓存一致性问题,提出了 MESI 协议 --> 完全遵守 MESI 又会给 CPU 带来性能问题 --> CPU 设计者为了提高性能又在cache基础上增加 store buffer 和 invalid queue --> 又导致了缓存的顺序一致性变为了弱缓存一致性 --> 需要缓存的顺序一致性的,就需要软件工程师自己在合适的地方添加内存屏障,volatile 的作用之一就是给虚拟机看让其在对应的指令加入内存屏障。

m0_56602092的博客 1060

关键!C#工业上位机界面设计终极指南:WinForm/WPF怎么选?【工业实战完整版,无废话选型+避坑+落地技巧】

工业上位机UI选型指南:WinForm与WPF核心对比 摘要: 本文基于工业实战视角,对比WinForm与WPF在工业上位机开发中的适用性。WinForm凭借GDI+原生渲染、极致兼容性(完美支持Win7/XP)、低资源占用和硬件底层调用优势,成为老旧工控机、简单监控系统和7×24小时运行设备的首选。WPF则依托DirectX硬件加速、MVVM架构和强大可视化能力,更适合复杂可视化大屏、3D模拟等高端场景及需要长期迭代的大型项目。核心选型原则是:优先考虑稳定性与兼容性,WinForm解决"能不能用

这里只有干货:从 Modbus 通信到 MES 对接,从 YOLO 训练到工控机部署,带你搞定工业软件开发全流程。 730

Unity之ASE+ShaderGraph+VFX入门到精通 目录

这里是ASE+ShaderGraph+VFX从入门到精通专栏的目录,不停更新中,有问题随时留言或者私信。

TxNet 2841

CPU高速缓存,缓存一致性协议 与 JMM

CPU高速缓存,缓存一致性协议 与 JMM CPU高速缓存 CPU为何要有高速缓存 cpu运行的速度远远高于磁盘 IO的速度,所以人们为了再磁盘io处理完成之前,不让cpu等待,让其尽可能的执行更多的命令,所以用了cpu高速缓存。(解决I\O速度和CPU运算速度之间的不匹配问题) 带有高速缓存的CPU执行计算的流程 程序以及数据被加载到主内存 指令和数据被加载到CPU的高速缓存 CPU执行指令,把结果写到高速缓存 高速缓存中的数据写回主内存 目前流行的多级缓存结构 由于CPU的运算.

qq_32950237的博客 1136

大数据学习指南从入门到精通

利用框架的力量,看懂游戏规则,才是入行的前提大多数人不懂,不会,不做,才是你的机会,你得行动,不能畏首畏尾选择才是拉差距关键,风向,比你流的汗水重要一万倍,逆风划船要累死人的为什么选择学习大数据开发,不选择Java开发?借棋弈做比喻,智商高的不要选择五子琪,要选择围棋,它能长久地吸引你。不都是在棋盘上一颗黑子一颗白子地下吗?因为围棋更复杂,能够掌握如此复杂的技艺、产生稳定输出的棋手、让我们更佩服。选择学习大数据开发也如此,能让你的职业生涯走得更远,少走弯路。

Lansonli(蓝深李)的博客 2万+

JMM模型和CPU高速缓存是什么关系?

看了很多关于JMM内存模型的博客,都有提到CPU高缓,但是都基本没有解释他们两者之间是属于什么样的关系,求大佬解答

qq_32209823的博客 862

霍尼韦尔SoftMaster使用说明

霍尼韦尔SoftMaster使用说明

Camera2Demo

在Camera2 的基础上进行封装,使得Camera2一堆初始化逻辑与Activity分离,降低耦合度,完成预览拍照并保存的操作

CPU缓存模型与Java内存模型(JMM)之间存在关联,它们之间的主要联系在于**线程的工作内存对应于CPU的高速缓存**

综上所述,CPU缓存模型和JMM之间的关系主要体现在线程的工作内存对应于CPU的高速缓存,以及它们都需要处理缓存一致性和可见性问题。JMM通过定义一系列的规则和原则,来确保在多线程环境下,共享变量的操作能够保持一致性和可见性,从而保证程序的正确执行。综上所述,CPU缓存模型与JMM之间的关联主要是在处理多核处理器和多线程环境中的数据一致性和可见性问题上。JMM提供了一套规范,确保了Java程序在多线程环境下的正确执行,而这些规范在设计时受到了CPU缓存模型的启发。

[Blog][Domain] programb.blog.youkuaiyun.com 476

VB摄像头监控

该VB模块可对摄像头捕获的画面进行录像等,可在创建的窗口进行控制

第六章JMM内存模型

Java中普通的共享变量不保证可见性,因为数据修改被写入内存的时机是不确定的,多线程并发下很可能出现"脏读",所以每个线程都有自己的工作内存,线程自己的工作内存中保存了该线程使用到的变量的主内存副本拷贝,线程对变量的所有操作(读取,赋值等 )都必需在线程自己的工作内存中进行,而不能够直接读写主内存中的变量。根据上面的铺垫,我们Java也可以直接复用操作系统层面的内存模型。:对一个volatile变量的写操作先行发生于对这个变量的读操作,前面的写对后面的读是可见的,这里的后面同样是指时间上的先后。

一名在校大三学习JAVA 544

ssm框架搭建

这个是一个在idea上成功跑起来的ssm框架项目,保存在这里方便以后使用直接下载

CPU缓存行与JMM

什么是JMM? JMM即为JAVA 内存模型(java memory model)。因为在不同的硬件生产商和不同的操作系统下,内存的访问逻辑有一定的差异,结果就是当你的代码在某个系统环境下运行良好,并且线程安全,但是换了个系统就出现各种问题。Java内存模型,就是为了屏蔽系统和硬件的差异,让一套代码在不同平台下能到达相同的访问结果。JMM从java 5开始的JSR-133发布后,已经成熟和完善起来。 JMM内存划分 JMM规定了内存主要划分为主内存和工作内存两种。此处的主内存和工作内存跟JVM内存划分(堆、

m0_37670016的博客 558

JMM内存模型

JMM内存模型概述CPU、高速缓存、寄存器JMM内存模型原子性如何保证?可见性Happens-Before原则有序性指令重排 概述 面试中总会被问到JMM内存模型这个问题,但似乎这是一个比较抽象和广泛的问题,因为他不仅包含JAVA底层中关于内存模型的知识,同时还必须了解操作系统。因此要讨论JMM内存模型,首先必须了解操作系统中CPU处理器、缓存(一缓存、二缓、三缓)、寄存器之间的关系。 CPU、高...

qq_39416605的博客 397

谈谈JMM

JMM happen-before JVM JMM

SO_zxn的博客 438

结合计算机底层分析 “线程安全性的原理分析”(CPU高速缓存、缓存一致性、总线锁和缓存锁、缓存一致性协议、MESI协议、重排序、JMM等)

线程安全性的原理分析写在前面从硬件层面了解可见性的本质CPU高速缓存 写在前面 一段代码引来的思考:为什么程序一直走不出Thread_One的while循环呢? public class Test{ public static boolean threadOneFlag = true; public volatile static boolean threadTwoFlag =...

weixin_43954926的博客 1034

多线程编程--04CPU高速缓存

CPU高速缓存 线程是CPU调度的最小单元,那么CPU在调度线程执行指令的时候,不仅仅是依靠计算机的处理器去完成,处理器依然需要跟内存进行交互,这里就存在IO操作。由此引发了一个问题,这个问题就是CPU的运算速度远比内存要高很多,导致数据读写速度跟不上CPU运算速度;那么解决方案就是在CPU和内存之间存在一个高速缓存叫CPU高速缓存。 ...

weixin_37493569的博客 323

Java并发编程:Java内存模型JMM

简介 Java内存模型英文叫做(Java Memory Model),简称为JMM。Java虚拟机规范试图定义一种Java内存模型来屏蔽掉各种硬件和系统的内存访问差异,实现平台无关性。 CPU和缓存一致性 讲JMM之前,我们应该先了解下CPU和缓存一致性的问题。计算机在执行程序的时候,每条指令都是在CPU中执行的,而执行的时候,又要和数据打交道。而计算机上面的数据,是存放在内存当中的。随着C...

mifffy_java的博客 190

jmm内存模型_「Java并发编程」谈谈Java中的内存模型JMM

往期文章面试官:说说你知道多少种线程池拒绝策略为什么不要在MySQL中使用UTF-8编码方式简介Java内存模型英文叫做(Java Memory Model),简称为JMM。Java虚拟机规范试图定义一种Java内存模型来屏蔽掉各种硬件和系统的内存访问差异,实现平台无关性。CPU和缓存一致性讲JMM之前,我们应该先了解下CPU和缓存一致性的问题。计算机在执行程序的时候,每条指令都是在CPU中执行的...

weixin_39826809的博客 65

Java内存模型(JMM)

Java内存模型(Java Memory Model,JMM) 它规范了Java虚拟机和计算机内存是如何协同工作的,它规定了一个线程如何和何时可以看到其它线程修改过的共享变量的值,以及在必须时如何同步的访问共享变量。 Java内存模型如图: **堆(Heap):**运行时的数据区,由垃圾回收来负责的。优势是可以动态的分配内存大小,生存期也不用提前告诉编译器,因为它是在运行时动态分配内存的,垃圾回...

H_Ystar的博客 286

Java并发编程之 JMM内存模型

硬件内存架构 现代计算机的基本硬件架构如图所示: 多CPU:一个现代计算机通常由两个或者多个CPU。其中一些CPU还有多核。从这一点可以看出,在一个有两个或者多个CPU的现代计算机上同时运行多个线程是可能的。每个CPU在某一时刻运行一个线程是没有问题的。这意味着,如果你的Java程序是多线程的,在你的Java程序中每个CPU上一个线程可能同时(并发)执行。 CPU寄存器(CPU Registers):每个CPU都包含一系列的寄存器,它们是CPU内内存的基础。CPU在寄存器上执行操作的速度远大于在主存上执

qq_43613793的博客 486

java JMM模型

主要存储当前方法的所有本地变量(工作内存中存储着主内存中的变量副本拷贝),每个线程只能访问自己的工作内存,即线程中的本地变量对其他线程是不可见的,就算是两个线程执行的是同一段代码,它们也会各自在自己的工作内存中创建属于当前线程的本地变量,当然也包括了字节码行号指示器、相关Native方法的信息。2 :因为工作内存所更新的变量并不会立即同步到主内存,所以虽然线程A在工作内存当中已经把变量s的值更新成3,但是线程B从主内存得到的变量s的值仍然是0,从而输出 s=0。保持多个线程对共享数据操作内存的可见性。

qq_45469225的博客 662
上一篇: 使用condition来实现阻塞队列
下一篇: 线程操作原子性
一切还来得及
博客等级 码龄11年 50粉丝 19原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符  | 博主筛选后可见
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值