JIT- 栈上替换（On-Stack Replacement, OSR）

栈上替换（On-Stack Replacement, OSR） 是一种 JIT（即时编译）编译器技术，主要用于在运行中对代码进行优化，以实现更好的性能，尤其是针对那些已经在解释执行阶段的长时间运行代码，如循环体。在 Java 虚拟机（JVM）和其他虚拟机中，OSR 是一个动态切换机制，用于将解释执行中的热点代码转换为优化后的机器码，从而提高运行效率。

1. OSR 的背景和目的

JIT 编译器的目的是将字节码转换为机器码，以提高运行速度。传统 JIT 编译的触发机制往往是在某个方法或者代码片段被多次执行后，将其编译成机器码并执行。然而，某些情况下，代码的热点可能在循环内部。如果 JVM 在执行过程中发现循环体已经运行很长时间，它不能等到整个方法执行完才优化，因为这样效率很低。这时就需要 OSR。

OSR 的主要目的是：

• 动态优化执行中的代码：特别是针对长时间运行的循环，而不是等待整个方法结束再进行编译。
• 减少解释器开销：如果 JVM 发现代码片段有优化的潜力，它可以利用 OSR 将其替换为更高效的机器码，提高程序的整体性能。

2. OSR 的工作机制

OSR 的基本思想是在代码执行过程中，动态地将解释执行的代码替换为编译后的机器码版本。这种替换可以发生在程序执行的中途，而不是在执行完某个方法或函数后。以下是 OSR 的工作流程：

1. 代码执行监控：JVM 以解释模式开始执行代码，并通过计数器来监控每个方法或代码块（例如循环）的执行频率。

2. 识别热点：当计数器达到某个预设的阈值，JVM 将识别该代码片段（通常是循环）为热点代码，意味着它被执行的次数足够多，具有显著的优化潜力。