跳到主要内容
约 8 分钟3 张卡

逃逸分析与标量替换

逃逸分析是 JIT 编译器判断新建对象会被哪些方法或线程访问的分析。它为两类优化提供依据:对象符合条件时,可以拆成独立的字段值,省去完整对象的分配;对象只由当前线程使用时,可以省去不必要的同步操作。

这些优化解释了为什么源码里写了 new,运行时却不一定有对应的堆分配。但没有逃逸只是前提,不能据此断定优化已经发生,也不能把分配消除理解为「把整个对象搬到栈上」。本文以 Java 17、21 的 HotSpot C2 为例;C2 是 HotSpot 中负责高层级优化的即时编译器。

1. 面试核心​

先记住这几条,再读正文
  • 逃逸分析依据内联之后的调用关系,判断对象会不会被外部方法或其他线程访问。
  • 对满足条件的不逃逸对象,C2 会做标量替换,把字段拆成独立的值,从而消除这次分配。卡 · 对象逃逸的判断
  • C2 能证明对象只由当前线程使用时,可以消除这个对象上的同步锁。卡 · 标量替换
  • JDK 21 C2 的逃逸分析是流不敏感的,会合并不同分支的逃逸结果,一个分支逃逸就会影响整个分配点。卡 · 条件逃逸

2. 对象逃逸的判断​

判断一个对象有没有逃逸,就看它创建之后被交给了谁。返回它、写进外部能访问到的字段,都会扩大它的可见范围;把它交给编译器看不透的调用,编译器也只能保守地认为它逃逸了。先看一个不逃逸的例子:

record Point(int x, int y) {}

static long distance(int x1, int y1, int x2, int y2) {
Point left = new Point(x1, y1);
Point right = new Point(x2, y2);
return Math.abs((long) left.x() - right.x())
+ Math.abs((long) left.y() - right.y());
}

两个 Point 只用来算距离,方法返回的是一个 long,对象本身没有交给任何人。C2 把构造方法和 x()、y() 这些访问方法内联进来之后,就能看到这两次分配的全部用途。(减法之前转成 long,是为了防止两个 int 坐标相减时溢出,和逃逸无关。)

对照下面三种写法,看对象被交给了谁:

写法对分析的影响
return point;对象被交给调用方,需要结合内联后的调用关系判断。
this.latest = point;若 this 已被外部持有,point 也会通过字段被访问。
consumer.accept(point);调用目标无法分析时,编译器需要保守判断对象用途。

注意,把对象作为参数传出去只是逃逸的线索,不是结论。如果被调用的方法已经内联进来,编译器能看清它怎样使用对象,仍然可以证明对象没有逃逸。这也是为什么说逃逸分析依据的是内联之后的调用关系。

3. 标量替换​

很多对象只是把几个字段临时组合在一起,计算时并不需要一个完整的对象。标量替换就是把这样的对象拆成独立的字段值,让编译后的代码直接使用这些值。前面的 Point 可以拆成两个坐标,直接用坐标算距离:

分配 Point → 读取坐标 → 计算
↓
直接使用坐标计算

标量替换成功后,C2 可以直接用 left.x()、left.y()、right.x() 和 right.y() 对应的字段值完成计算,消除两次 Point 分配。这些值可以保存在寄存器或栈槽里,不需要对象头和完整的字段布局,因此也减少了堆分配和后续的 GC 工作。是否使用了 == 或同步操作,不能单独决定能否消除分配;编译器还要判断这些操作能否一起优化,并保持原来的行为。

重新物化(rematerialization)是根据保留的字段信息重新创建对象。优化假设失效、代码退回解释执行时,解释器可能又需要一个完整对象,JVM 就利用去优化元数据恢复它。因此,分配可以被优化掉,程序仍要表现得像对象正常存在一样。

4. 锁消除​

锁消除是编译器去掉不必要的加锁和解锁操作。如果 C2 能证明某个对象只会被当前线程使用,就没有其他线程竞争它的同步锁,可以省去对应的 monitor 进入和退出操作:

String format(int id, int status) {
StringBuffer buffer = new StringBuffer();
buffer.append(id).append(':').append(status);
return buffer.toString();
}

StringBuffer 的 append 等方法通过同步保证线程安全,但这里的 buffer 不会被其他线程看到。C2 如果能分析并证明这一点,就可以省去相应的加锁和解锁。自己编写单线程字符串拼接时,直接使用 StringBuilder 更能表达用途,也无需依赖编译器消除多余的同步。

锁粗化是把连续多次针对同一对象的同步区间合并,减少反复加锁和解锁的开销。它仍然保留同步,只是扩大了同步区间,与锁消除解决的问题不同。

5. 优化条件​

对象没有逃逸,只说明它具备了被优化的前提。最终能不能消除分配,还取决于编译器能看到多少代码,以及对象是怎样使用的。下面这些情况都可能让优化不发生:

  • 调用没有被内联,编译器不知道被调用的方法会怎样使用对象。
  • 需要保留对象的身份,或者反射、native 调用(执行本地代码的调用)让对象的用途无法分析。
  • 控制流太复杂,编译器很难在每条路径上把字段值拆开处理。
  • 方法还在解释执行,或者还没进入 C2 的优化层级。
  • 编译时间和优化预算有限,不同 JDK 版本、不同编译器的实现能力也不一样。

所以在源码里看到对象只是个局部变量,只能说明它的写法,优化到底有没有发生还要实际测量。

5.1 条件逃逸​

流不敏感是指分析时合并各条控制流路径的结果,而不是为每条路径分别保留判断。JDK 21 C2 的逃逸分析采用这种方式,因此一个分支中的逃逸会影响同一个分配点:

static Point saved;

static int compute(boolean publish, int x) {
Point p = new Point(x, 1);
if (publish) {
saved = p;
}
return p.x();
}

只要 saved = p 所在分支还留在编译器分析的代码图里,p 就会被判为全局逃逸。即使绝大多数调用的 publish 都是 false,这次分配也无法通过这项分析消除。

如果运行画像显示这个分支从未执行,C2 可能不把它编进当前优化路径,改为在进入该分支时触发去优化。这时分支已经不在分析图里,就不会影响这次逃逸判断。部分逃逸分析则能按路径分别判断逃逸,不同编译器是否支持,要看具体实现。

6. 栈上分配​

「栈上分配」这个说法容易让人以为整个对象被搬到了线程栈上。在 JDK 21 HotSpot C2 里,省掉分配主要靠的是标量替换:对象被拆成了独立的字段值,这些值可能放在寄存器或栈槽里,但并不存在一个「放在栈上的完整对象」。

没有被消除的对象分配,仍然是堆分配。HotSpot 会优先在 TLAB(堆内每个线程私有的一块分配区)里分配,所以分配本身很快,但对象依然在堆上,见Java 对象布局。

7. 分配数据验证​

验证优化有没有发生,要比较实际的分配量。JMH 的 GC profiler 可以测出每次操作分配了多少字节:

java -jar target/benchmarks.jar EscapeBenchmark -prof gc
java -jar target/benchmarks.jar EscapeBenchmark -prof gc -jvmArgsAppend -XX:-DoEscapeAnalysis

第二条命令关闭逃逸分析,作为对照组。JMH 的 fork 是独立启动的 JVM 进程,用它隔离两组实验的编译状态。两组都充分预热后,比较表示每次操作分配字节数的 gc.alloc.rate.norm。如果第一组接近 0、第二组明显更高,就支持「该基准中的分配被消除」这个判断。关闭逃逸分析在这里用于实验对照,不应直接照搬到生产配置。

基准本身也要写对,否则测出来的不是你想测的东西:

  • 返回计算出的标量结果,或交给 JMH 的 Blackhole 消费,避免结果没人用、整段计算被删掉。
  • 使用会变化的输入参数,避免计算被常量折叠。
  • 只把计算结果交出去,不要把被测对象本身交给外部,否则会改变它的逃逸条件。

基准的设计方法见JMH。

想知道对象是在哪里创建的,可以看 JFR 的 New TLAB、Outside TLAB 分配事件,或者用 async-profiler 的 allocation 模式找分配热点。这些事件和样本的记录范围各不相同,具体见GC 停顿分析。

到了线上,还要比较每请求分配的字节数、每秒分配率、GC CPU 和端到端吞吐。单个操作变快了,只有反映到这些指标上,才能说明服务真的受益。

8. 常见问题​

8.1 对象没有逃出方法就一定不在堆上吗?​

不一定,局部对象仍然可能在堆上分配。C2 要先成功分析出对象的用途,再完成标量替换,分配才会被消除。方法还没被编译、调用无法分析,或者需要保留对象身份时,源码里的局部作用域并不能保证分配被消除。

8.2 逃逸分析能消除所有临时集合吗?​

8.3 分配很快,为什么还要关注对象数量?​

9. 面试题卡片​

10. 参考资料​

来源:Coding 101 原文 · 免费阅读,引用请保留出处。内容使用说明