跳到主要内容
约 8 分钟3 张卡

分层编译

分层编译是 HotSpot 执行代码的策略:先用解释器马上跑起来,再根据热度,把反复执行的代码逐步交给即时编译器(JIT)编译成本机机器码,越热的代码投入越多的优化成本。这样既不用等全部代码编译完才启动,热点代码最终又能跑得很快。

「Java 是解释执行还是编译执行」这个问题的答案就在这里:两者同时存在。理解分层编译,还能解释服务刚启动时为什么慢、为什么需要预热,以及编译日志里同一个方法为什么会出现好几次。

1. 面试核心​

先记住这几条,再读正文
  • javac 把源码编译成字节码,HotSpot 在同一个进程里既解释执行字节码,也执行 JIT 生成的机器码。卡 · 解释执行
  • HotSpot 用方法调用计数和循环回边计数探测热点;OSR 能把一个正在执行的循环切换到编译后的代码。卡 · 热点探测
  • HotSpot 的 0 级是解释器,1—3 级是 C1,4 级是 C2,方法不必逐级经过。卡 · 分层编译的层级
  • JIT 生成的机器码存放在 Code Cache,编译任务由后台的编译线程处理。
  • 预热是让真实负载形成稳定的类型和分支画像,让 JIT 优化常用路径,降低启动后的请求延迟。

2. 解释执行​

解释执行是由解释器读取字节码指令并完成相应操作,应用不用等方法编译成机器码就能运行。解释器还会按策略记录调用次数、分支走向,以及 obj.run() 这类调用中 obj 的实际类型。这些运行时统计叫画像(profile),JIT 据此选择优化方式。

解释执行适合做三类事:

  • 执行只跑一次的启动逻辑,或者很少走到的错误路径。
  • 收集方法实际怎么运行的画像,给后续优化提供依据。
  • 后台编译还没完成时,让应用继续往前跑。

解释器需要逐条处理字节码指令,优化后的机器码则可以合并或省去一部分工作。不过,生成机器码本身也要耗时。只跑一次甚至从不执行的冷代码,很难从优化中收回这笔成本,所以 HotSpot 按热度挑选编译目标,让反复执行的代码承担更多优化成本。

3. 热点探测​

一段代码变「热」有两种方式:被反复调用,或者在一次调用里执行很多轮循环。HotSpot 因此分别统计方法调用次数和循环回边次数。回边是循环中向前面位置跳回、继续下一轮迭代的跳转,回边计数用来反映循环的执行热度。

这意味着即使一个方法只调用一次,只要它里面的循环迭代足够多,也会成为热点。但这时方法已经在解释器里跑着了,等它返回再编译就晚了。OSR(On-Stack Replacement,栈上替换)解决的就是这个问题:它让正在执行的方法在循环中途切换到编译好的循环入口,剩下的迭代就用优化后的机器码跑。普通的编译入口则留给之后的方法调用使用。

至于什么时候触发编译,取决于 JDK 版本、所在的编译层级和 JVM 参数,还会受编译队列压力影响。所以「调用一万次就编译」这种说法概括不了分层编译的实际策略。

4. 分层编译的层级​

分层编译用到两个编译器,各自负责不同成本的优化。C1 编译得快,可以生成带画像采集逻辑的机器码。C2 编译更耗时,会利用已经收集到的画像做更激进的优化,追求热点代码的峰值性能。

下表以 OpenJDK 21 HotSpot 为准,列出 0—4 级的执行方式和画像差异:

层级执行方式画像
0解释器按策略收集画像
1C1 优化代码不收集画像
2C1 优化代码调用与回边计数
3C1 优化代码完整画像
4C2 优化代码使用已有画像优化

一种典型路径是 0 → 3 → 4:先解释执行,再用 C1 编译出带完整画像采集的版本,满足条件后交给 C2 深度优化。也有别的走法:C2 队列拥堵时,方法可以先进入 2 级;很简单的方法,比如 getter,可以停在 1 级。层级怎样转换由策略决定,不需要逐级经过 0—4。

可以用下面的命令查看编译记录:

java -XX:+PrintCompilation -jar app.jar

读日志时,关注每条记录对应的编译版本:

  • 方法名说明哪段代码被编译了。
  • % 表示这是一次 OSR 编译,用来切换正在执行的循环。
  • 层级数字说明生成的是哪一级的机器码。
  • not entrant 表示这个版本不再接受新的调用。

not entrant 不一定代表出了问题:旧版本被更高层级的新版本替换时,也会出现这个标记,要结合前后的记录判断原因。另外,一条记录只能证明这个版本曾经生成过,之后请求实际用的是哪个版本,还要继续观察。

5. 运行时画像​

源码只规定了代码「允许」怎样被调用,运行时画像告诉 JIT 代码「实际」是怎样被调用的。画像会记录接收者的类型、分支的走向和执行次数。接收者就是方法调用作用的那个对象,比如 rule.apply(order) 里的 rule。

举个例子,一个方法通过 PriceRule 接口计算订单价格。源码里只看得到接口类型,画像却可能显示这个调用点长期只遇到某一种实现。JIT 就可以为这个常见类型生成带类型检查的直接调用或内联代码。也正因为如此,同一段源码在不同的输入分布下,会得到不同的优化结果。

类型变化会推翻已有的优化假设,具体怎么处理见 方法内联与去优化。

6. 编译线程与 Code Cache​

编译本身也要消耗 CPU 和内存,所以代码变热之后,还得排队等编译资源。默认的分层模式下,编译任务由后台编译线程处理,生成的机器码存放在 Code Cache 里,这是 JVM 专门用来保存编译代码等内容的一块内存区域。

应用启动或流量突增时,JIT、类加载、GC 和业务请求会同时抢 CPU。编译队列一旦积压,热点代码就要更久才能得到优化;Code Cache 空间不足也会让编译受限。启用 -XX:+UseCodeCacheFlushing 时,JVM 清理出空间后可以恢复编译。

下面两个命令分别查看排队的编译任务和代码缓存的使用情况:

jcmd <pid> Compiler.queue
jcmd <pid> Compiler.codecache

要把编译行为和请求延迟对应起来,可以看 JFR(Java Flight Recorder,JVM 的运行事件记录工具)里的编译、Code Cache 和去优化事件。

在 Linux 上,还可以用 jcmd <pid> Compiler.perfmap 给 perf 工具生成地址映射文件,这样性能采样里的机器码地址就能对应到具体的 Java 方法。这些诊断命令是否可用、输出格式如何,要在目标 JDK 上确认。

7. 预热​

预热是让服务在正式承接流量或正式测量之前,先进入稳定状态。预热要覆盖真实的请求类型和分支比例,因为反复跑同一种固定输入,只会形成这一种输入的画像,JIT 优化出来的代码在真实流量下未必合适。预热不足时,最早的一批请求要承担类初始化、等待编译这些成本,延迟会明显偏高。

判断是否进入了稳态,要看:

  • 主要的类是否已经加载并初始化完成。
  • 常用代码是否已经编译到合适的层级。
  • 缓存和连接池是否已经稳定。
  • GC 周期和存活工作集(回收后仍要保留的业务对象)是否在可比较的范围内。

后两项和 JIT 无关,但同样会影响测量:即使编译已经稳定,缓存还在持续增长或者 GC 周期不同,结果也没法比较。

测量前要先想清楚目标是冷启动、预热过程还是稳态性能。冷启动测试要保留首次执行的成本;稳态测试则要把预热阶段和正式统计分开。混在一起会出两种错:丢掉最初的请求会掩盖启动成本,把冷启动算进稳态均值又会拉偏比较结果。

基准测试里的预热配置见 JMH。

8. 常见问题​

8.1 解释器和 JIT 是二选一的吗?​

不是。HotSpot 在同一个进程里同时使用解释器和 JIT。源码先由 javac 编译成字节码,运行时再按热度,有的方法解释执行,有的方法执行已编译的机器码。

8.2 用 -Xcomp 强制编译能提升性能吗?​

8.3 为什么同一个方法会被编译好几次?​

9. 面试题卡片​

10. 参考资料​

来源:Coding 101 原文 · 免费阅读,引用请保留出处。内容使用说明