跳到主要内容
约 8 分钟3 张卡

Serial、Parallel 与 CMS

Serial、Parallel 与 CMS 是三种取舍不同的垃圾收集器:Serial 侧重降低收集器自身开销,Parallel 侧重吞吐,CMS 侧重缩短老年代回收的停顿。CMS 已在 JDK 14 移除,本文按 JDK 8 的实现讲解,用来理解旧系统的 GC 日志和迁移时的行为变化。

比较它们,不能只看用了几个线程,还要看回收期间应用能否继续运行。这也决定了收集器需要付出哪些协调和空间成本。

先说清两个贯穿全文的词。并行(parallel)是指多个 GC 线程同时干活;并发(concurrent)是指 GC 和应用线程同时运行。二者描述的是不同的关系,一个收集器可以既并行又有并发阶段。GC 期间暂停所有应用线程,称为 Stop-The-World(STW)。

1. 面试核心​

先记住这几条,再读正文
  • Serial 用单个 GC 线程完成主要回收工作,期间暂停应用。
  • Parallel 用多个 GC 线程并行回收,仍然暂停应用,以吞吐为主要目标。卡 · 三者的比较
  • JDK 8 CMS 的初始标记和重新标记会暂停应用,并发标记和并发清除与应用一起运行。卡 · CMS
  • CMS 并发周期用标记清除,不移动存活对象,会留下碎片;标记之后才变得不可达的对象成为浮动垃圾,要等下一轮回收。
  • CMS 来不及回收或空闲块满足不了分配时,会发生 concurrent mode failure,转入长时间停顿的回收。卡 · 并发模式失败

2. Serial​

Serial 用单个 GC 线程完成主要回收工作,回收期间应用线程全部暂停(STW)。用下面的参数选择它:

java -XX:+UseSerialGC -jar app.jar

只有一个线程,就省掉了多个 GC 线程之间的协调成本。所以小堆、单核或者 CPU 配额很少的简单程序适合用它,这类程序本来就没有多余的核让多线程发挥作用,反而更在意收集器自身的开销低。

Serial 在年轻代用复制算法,在老年代用标记整理,也就是把存活对象挪到一起,留出连续的空闲空间。它的停顿长短主要看存活工作集,也就是回收后仍然存活的对象集合。工作集越大,单个线程要处理的对象越多,应用等回收结束的时间就越长。

3. Parallel​

Parallel 让多个 GC 线程同时回收,目标是提高吞吐,也就是应用运行时间在总时间里的占比:应用时间 / (应用时间 + GC 时间)。吞吐优先的任务可以这样选择它:

java -XX:+UseParallelGC -jar batch-job.jar

Parallel 的主要回收工作仍然在 STW 中完成。CPU 和内存带宽充足时,多个线程分担工作,可以缩短一次回收的耗时,但应用仍要等回收结束。批处理和离线计算如果更关心单位时间完成多少任务,而不是单次停顿,就可以接受这种取舍。

GC 线程也不是越多越好,收益受这些资源限制:

  • CPU 配额限制了同时能跑多少线程,GC 还要和同机的其他应用抢 CPU。
  • 扫描和复制对象要消耗内存带宽,带宽饱和后再加线程收益就会下降。
  • 在 NUMA 机器上,处理器访问不同内存区域的速度不同,访问远端内存的成本更高。
  • 多线程之间分配任务、合并结果需要协调,线程越多这部分开销越大。

Parallel 可以按目标自动调整。-XX:MaxGCPauseMillis 设置期望的停顿时间,-XX:GCTimeRatio=N 把 GC 时间占比的目标设为 1/(N+1)。比如 N 为 99 时,目标是 GC 时间不超过总时间的 1%。收集器会朝着目标调整,但能不能达到,还取决于负载和可用资源。

4. CMS​

CMS 的全称是 Concurrent Mark Sweep,即并发标记清除。JDK 8 的 CMS 主要负责老年代,年轻代由 ParNew 配合回收。它把老年代回收中耗时较多的标记和清除放到应用运行的同时去做,从而缩短老年代回收的停顿。

一次 CMS 周期主要分四个阶段:

主要阶段应用线程工作
初始标记暂停标记从根和年轻代直接可达的老年代对象
并发标记运行遍历可达对象图
重新标记暂停处理并发期间的引用变化,完成标记
并发清除运行回收已判定不可达的老年代空间

重新标记用于处理并发期间的引用变化。并发标记时应用还在运行,会修改对象之间的引用;如果不处理这些变化,就可能漏掉存活对象。CMS 因此需要再暂停一次应用,完成标记。实际日志里还能看到预清理、重置等阶段。

并发不是免费的。并发阶段的 GC 线程要占用 CPU,业务能用来计算的资源就少了。CMS 是用更多的并发开销换更短的停顿,应用吞吐也会因此下降。

4.1 碎片与浮动垃圾​

碎片和浮动垃圾是 CMS 的两个副作用,成因不同:碎片影响空闲空间能不能用,浮动垃圾影响垃圾什么时候被回收。

碎片来自标记清除本身。清除只回收不可达对象,存活对象原地不动,所以清除完留下的是夹在存活对象之间、大小不一的空闲块。大对象需要一块足够大的连续空间,即使总的空闲量够,也可能找不到合适的块,导致分配失败。

浮动垃圾来自并发标记。有些对象在标记时还被引用,被标记为存活,之后才变得不可达。这一轮按已有的标记结果把它们保留下来,要到下一轮才能识别并回收。

4.2 并发模式失败​

concurrent mode failure(并发模式失败)是指 CMS 还没回收完,老年代就满足不了分配了。并发回收需要时间,而这段时间里应用照常分配对象,年轻代对象也会不断晋升(进入老年代),所以 CMS 必须赶在老年代空间耗尽之前完成一轮回收。

如果老年代先被占满,或者空闲块大小满足不了分配,CMS 就只能暂停应用,转入停顿中的回收路径来完成回收。这条路径要在 STW 中处理整个老年代,停顿会比正常周期长得多。

排查时,可以从这几种空间压力入手:

  • 周期启动太晚,剩下的空间撑不到这一轮回收结束。
  • 分配或晋升太快,老年代比预计更早用完。
  • 存活工作集太大,每轮回收能腾出的空间有限。
  • 碎片严重,总空闲量够,但缺少足够大的空闲块。

这几种原因在日志里的表现会混在一起,所以要把老年代占用、空闲块分布和并发周期时长放在一起看。

5. CMS 的移除​

CMS 在 JDK 9 弃用,在 JDK 14 移除,Java 17、21 都已经无法用 -XX:+UseConcMarkSweepGC 选择它。旧启动脚本里还留着这个参数时,JVM 会报 Unrecognized VM option 'UseConcMarkSweepGC' 并直接启动失败,不会退回默认收集器。

迁移旧服务时,先清理 CMS、ParNew 等旧收集器的专用参数,永久代参数和分代比例也要按目标 JDK 重新核对。然后用 G1 的默认参数建立基线,观察堆占用、暂停分布和吞吐,再按目标调整,或者和其他收集器比较。

G1 的参数与区域机制见 G1。

6. 三者的比较​

三者的区别可以归结为两个问题:谁来执行回收,回收时应用是否还在运行。

收集器回收方式主要收益主要代价
Serial单线程 STW协调成本低大工作集停顿长
Parallel多线程 STW吞吐仍有集中停顿
CMS老年代并发标记清除缩短老年代停顿CPU、碎片和空间余量

表里的 Parallel 是并行但不并发,CMS 的并发标记和并发清除是并发的,但它的初始标记和重新标记仍然是 STW。

7. 收集器选择​

选收集器,要先把业务目标变成能测量的指标,再用实测比较。可以按这个顺序检查:

  1. 业务是批处理还是在线请求,主要追求吞吐还是低延迟。
  2. 能接受的 P99、P999 暂停和端到端请求延迟是多少。P99、P999 分别表示 99%、99.9% 的观测值不超过这个值。
  3. 堆大小、存活工作集和分配率是多少。分配率是单位时间内新分配对象占用的空间。
  4. 容器有多少 CPU 配额,堆外内存还剩多少余量。
  5. 目标 JDK 和发行版实际支持哪些收集器。
  6. 在同一负载下跑完整的稳定周期,对比吞吐、暂停分布、CPU 和进程内存。

默认收集器可以作为比较的起点,但合不合适要靠实测。还要记住,GC 暂停只是请求端到端延迟的一部分,单看一次回收用了多久,说明不了整体业务效果。

低延迟方案见 低延迟垃圾收集器。

8. 常见问题​

8.1 Parallel 用多个线程回收,为什么应用仍会暂停?​

Parallel 回收时应用会暂停。它的多个 GC 线程同时工作,但主要回收阶段仍然是 STW。名字里的「并行」说的是 GC 线程之间的关系,应用和 GC 同时运行才叫「并发」。

8.2 CMS 总空闲量够大,为什么仍可能分配失败?​

8.3 CMS 已经移除,迁移旧服务时还需要了解它吗?​

9. 面试题卡片​

10. 参考资料​

来源:Coding 101 原文 · 免费阅读,引用请保留出处。内容使用说明