逃逸分析与标量替换
逃逸分析是 JIT 编译器判断新建对象会被哪些方法或线程访问的分析。它为两类优化提供依据:对象符合条件时,可以拆成独立的字段值,省去完整对象的分配;对象只由当前线程使用时,可以省去不必要的同步操作。
这些优化解释了为什么源码里写了 new,运行时却不一定有对应的堆分配。但没有逃逸只是前提,不能据此断定优化已经发生,也不能把分配消除理解为「把整个对象搬到栈上」。本文以 Java 17、21 的 HotSpot C2 为例;C2 是 HotSpot 中负责高层级优化的即时编译器。
1. 面试核心
先记住这几条,再读正文- 逃逸分析依据内联之后的调用关系,判断对象会不会被外部方法或其他线程访问。
- 对满足条件的不逃逸对象,C2 会做标量替换,把字段拆成独立的值,从而消除这次分配。卡 · 对象逃逸的判断
- C2 能证明对象只由当前线程使用时,可以消除这个对象上的同步锁。卡 · 标量替换
- JDK 21 C2 的逃逸分析是流不敏感的,会合并不同分支的逃逸结果,一个分支逃逸就会影响整个分配点。卡 · 条件逃逸
2. 对象逃逸的判断
判断一个对象有没有逃逸,就看它创建之后被交给了谁。返回它、写进外部能访问到的字段,都会扩大它的可见范围;把它交给编译器看不透的调用,编译器也只能保守地认为它逃逸了。先看一个不逃逸的例子:
record Point(int x, int y) {}
static long distance(int x1, int y1, int x2, int y2) {
Point left = new Point(x1, y1);
Point right = new Point(x2, y2);
return Math.abs((long) left.x() - right.x())
+ Math.abs((long) left.y() - right.y());
}
两个 Point 只用来算距离,方法返回的是一个 long,对象本身没有交给任何人。C2 把构造方法和 x()、y() 这些访问方法内联进来之后,就能看到这两次分配的全部用途。(减法之前转成 long,是为了防止两个 int 坐标相减时溢出,和逃逸无关。)
对照下面三种写法,看对象被交给了谁:
| 写法 | 对分析的影响 |
|---|---|
return point; | 对象被交给调用方,需要结合内联后的调用关系判断。 |
this.latest = point; | 若 this 已被外部持有,point 也会通过字段被访问。 |
consumer.accept(point); | 调用目标无法分析时,编译器需要保守判断对象用途。 |
注意,把对象作为参数传出去只是逃逸的线索,不是结论。如果被调用的方法已经内联进来,编译器能看清它怎样使用对象,仍然可以证明对象没有逃逸。这也是为什么说逃逸分析依据的是内联之后的调用关系。
3. 标量替换
很多对象只是把几个字段临时组合在一起,计算时并不需要一个完整的对象。标量替换就是把这样的对象拆成独立的字段值,让编译后的代码直接使用这些值。前面的 Point 可以拆成两个坐标,直接用坐标算距离:
分配 Point → 读取坐标 → 计算
↓
直接使用坐标计算
标量替换成功后,C2 可以直接用 left.x()、left.y()、right.x() 和 right.y() 对应的字段值完成计算,消除两次 Point 分配。这些值可以保存在寄存器或栈槽里,不需要对象头和完整的字段布局,因此也减少了堆分配和后续的 GC 工作。是否使用了 == 或同步操作,不能单独决定能否消除分配;编译器还要判断这些操作能否一起优化,并保持原来的行为。
重新物化(rematerialization)是根据保留的字段信息重新创建对象。优化假设失效、代码退回解释执行时,解释器可能又需要一个完整对象,JVM 就利用去优化元数据恢复它。因此,分配可以被优化掉,程序仍要表现得像对象正常存在一样。
4. 锁消除
锁消除是编译器去掉不必要的加锁和解锁操作。如果 C2 能证明某个对象只会被当前线程使用,就没有其他线程竞争它的同步锁,可以省去对应的 monitor 进入和退出操作:
String format(int id, int status) {
StringBuffer buffer = new StringBuffer();
buffer.append(id).append(':').append(status);
return buffer.toString();
}
StringBuffer 的 append 等方法通过同步保证线程安全,但这里的 buffer 不会被其他线程看到。C2 如果能分析并证明这一点,就可以省去相应的加锁和解锁。自己编写单线程字符串拼接时,直接使用 StringBuilder 更能表达用途,也无需依赖编译器消除多余的同步。
锁粗化是把连续多次针对同一对象的同步区间合并,减少反复加锁和解锁的开销。它仍然保留同步,只是扩大了同步区间,与锁消除解决的问题不同。
5. 优化条件
对象没有逃逸,只说明它具备了被优化的前提。最终能不能消除分配,还取决于编译器能看到多少代码,以及对象是怎样使用的。下面这些情况都可能让优化不发生:
- 调用没有被内联,编译器不知道被调用的方法会怎样使用对象。
- 需要保留对象的身份,或者反射、native 调用(执行本地代码的调用)让对象的用途无法分析。
- 控制流太复杂,编译器很难在每条路径上把字段值拆开处理。
- 方法还在解释执行,或者还没进入 C2 的优化层级。
- 编译时间和优化预算有限,不同 JDK 版本、不同编译器的实现能力也不一样。
所以在源码里看到对象只是个局部变量,只能说明它的写法,优化到底有没有发生还要实际测量。
5.1 条件逃逸
流不敏感是指分析时合并各条控制流路径的结果,而不是为每条路径分别保留判断。JDK 21 C2 的逃逸分析采用这种方式,因此一个分支中的逃逸会影响同一个分配点:
static Point saved;
static int compute(boolean publish, int x) {
Point p = new Point(x, 1);
if (publish) {
saved = p;
}
return p.x();
}
只要 saved = p 所在分支还留在编译器分析的代码图里,p 就会被判为全局逃逸。即使绝大多数调用的 publish 都是 false,这次分配也无法通过这项分析消除。
如果运行画像显示这个分支从未执行,C2 可能不把它编进当前优化路径,改为在进入该分支时触发去优化。这时分支已经不在分析图里,就不会影响这次逃逸判断。部分逃逸分析则能按路径分别判断逃逸,不同编译器是否支持,要看具体实现。
6. 栈上分配
「栈上分配」这个说法容易让人以为整个对象被搬到了线程栈上。在 JDK 21 HotSpot C2 里,省掉分配主要靠的是标量替换:对象被拆成了独立的字段值,这些值可能放在寄存器或栈槽里,但并不存在一个「放在栈上的完整对象」。
没有被消除的对象分配,仍然是堆分配。HotSpot 会优先在 TLAB(堆内每个线程私有的一块分配区)里分配,所以分配本身很快,但对象依然在堆上,见Java 对象布局。
7. 分配数据验证
验证优化有没有发生,要比较实际的分配量。JMH 的 GC profiler 可以测出每次操作分配了多少字节:
java -jar target/benchmarks.jar EscapeBenchmark -prof gc
java -jar target/benchmarks.jar EscapeBenchmark -prof gc -jvmArgsAppend -XX:-DoEscapeAnalysis
第二条命令关闭逃逸分析,作为对照组。JMH 的 fork 是独立启动的 JVM 进程,用它隔离两组实验的编译状态。两组都充分预热后,比较表示每次操作分配字节数的 gc.alloc.rate.norm。如果第一组接近 0、第二组明显更高,就支持「该基准中的分配被消除」这个判断。关闭逃逸分析在这里用于实验对照,不应直接照搬到生产配置。
基准本身也要写对,否则测出来的不是你想测的东西:
- 返回计算出的标量结果,或交给 JMH 的 Blackhole 消费,避免结果没人用、整段计算被删掉。
- 使用会变化的输入参数,避免计算被常量折叠。
- 只把计算结果交出去,不要把被测对象本身交给外部,否则会改变它的逃逸条件。
基准的设计方法见JMH。
想知道对象是在哪里创建的,可以看 JFR 的 New TLAB、Outside TLAB 分配事件,或者用 async-profiler 的 allocation 模式找分配热点。这些事件和样本的记录范围各不相同,具体见GC 停顿分析。
到了线上,还要比较每请求分配的字节数、每秒分配率、GC CPU 和端到端吞吐。单个操作变快了,只有反映到这些指标上,才能说明服务真的受益。
8. 常见问题
8.1 对象没有逃出方法就一定不在堆上吗?
不一定,局部对象仍然可能在堆上分配。C2 要先成功分析出对象的用途,再完成标量替换,分配才会被消除。方法还没被编译、调用无法分析,或者需要保留对象身份时,源码里的局部作用域并不能保证分配被消除。
8.2 逃逸分析能消除所有临时集合吗?
不能保证。比如临时 ArrayList 内部有数组,还可能扩容;这些对象和调用都要纳入分析,比只包含几个字段的 Point 更复杂。需要减少中间集合时,应从算法和 API 用法入手,再测量实际分配量。
8.3 分配很快,为什么还要关注对象数量?
因为分配快不等于没有成本。TLAB 让分配路径很短,但每个对象仍然要初始化、要占用内存带宽,产生的垃圾还要后续的 GC 来处理。不过,只有分析结果表明分配率确实限制了性能时,才值得为了减少对象而增加代码的复杂度。
9. 面试题卡片
10. 参考资料
来源:Coding 101 原文 · 免费阅读,引用请保留出处。内容使用说明