跳到主要内容
约 8 分钟3 张卡

虚拟线程

虚拟线程是由 JVM 调度的轻量级线程,自 JDK 21 正式提供。它的创建和阻塞成本远低于平台线程,所以可以为每个任务创建一个线程,用普通的同步代码同时承载大量阻塞 I/O。但虚拟线程只降低了线程本身的成本:CPU、数据库连接、下游接口的容量都没有变多,Java 21 中某些阻塞还会把底下的平台线程一起占住。用好虚拟线程,要清楚它怎样运行、适合什么负载,以及还有哪些资源需要单独限制。本文以 Java 21 为准。

1. 面试核心​

先记住这几条,再读正文
  • 虚拟线程自 JDK 21 正式提供,每个任务创建一个线程,任务结束线程随之结束,不需要池化。
  • 虚拟线程遇到支持卸载的阻塞操作时,会让出承载它的平台线程,供其他虚拟线程运行。
  • 虚拟线程适合用同步代码承载大量阻塞 I/O,CPU 计算的吞吐仍受可用核心数限制。卡 · 虚拟线程与 carrier 线程
  • Java 21 中,虚拟线程持有 monitor 时阻塞会导致 pinning,承载它的平台线程被一起占住。卡 · pinning 的版本诊断
  • 虚拟线程始终是守护线程,程序退出前要通过 join、Future 或关闭执行器等待任务完成。卡 · 虚拟线程的观测与退出

2. 虚拟线程与 carrier 线程​

虚拟线程执行代码时,仍然要借助一个平台线程。承载它的平台线程叫 carrier 线程,也叫载体线程。对应用代码来说,这一层是透明的,照常写同步调用即可:

try (ExecutorService executor =
Executors.newVirtualThreadPerTaskExecutor()) {
Future<Response> response = executor.submit(() -> client.call());
return response.get();
}

这个执行器为每个提交的任务创建一个新的虚拟线程。get() 等待并取得 client.call() 的结果,退出 try-with-resources 时关闭执行器。

JVM 把大量虚拟线程调度到少量 carrier 上运行。虚拟线程占用一个 carrier 执行代码,叫挂载;遇到支持卸载的阻塞操作(比如等网络响应),它会把自己的栈保存起来、从 carrier 上卸下,carrier 转去运行别的虚拟线程。等待结束后,这个虚拟线程重新排队,等着再次挂载到某个 carrier 上继续执行。所以几千个虚拟线程同时等网络,只需要几个 carrier。

虚拟线程保留了 Java 原有的调用栈、异常和中断模型,常用的 Thread API 照样能用,Thread.currentThread() 返回的就是当前虚拟线程对象。这意味着「一个请求一个线程」的同步写法可以原样保留,不必改成回调或响应式风格。

3. 虚拟线程与线程池​

线程池存在的理由,是平台线程的创建成本和栈内存都很高,需要复用并限制数量。虚拟线程便宜,按任务创建、用完就结束即可。如果把虚拟线程也放进一个只有少量 Worker 的池里,任务又会在池前排队,虚拟线程能同时承载大量等待的优势就没了。

newVirtualThreadPerTaskExecutor() 没有线程数上限,线程数不再替你挡住下游。所以要在稀缺资源的入口单独限制并发,比如限制同时查询数据库的任务数:

Semaphore dbPermits = new Semaphore(30);

dbPermits.acquire();
try {
return repository.query();
} finally {
dbPermits.release();
}

Semaphore 是按许可数量限制并发的信号量。所有查询都通过同一个 dbPermits 并遵守这个写法时,最多同时有 30 个查询在执行。acquire() 放在 try 之前,只有拿到许可才进入 try,finally 里归还,不会多还。

许可只限制正在查询的数量,等许可的任务仍然占着内存。所以服务入口还要限制总的在途任务数,也就是已经接收、还没完成的任务数,避免流量过大时无限制地创建虚拟线程。

4. 适用场景​

虚拟线程适合数量大、彼此独立、大部分时间在等 I/O 的任务,比如服务需要同时发出大量 HTTP 请求或 JDBC 查询。JDK 的网络阻塞操作支持卸载 carrier,同一台机器就能承载多得多的等待中任务。

CPU 计算则不同,它一直占用处理器。大量虚拟线程同时计算,争夺的还是那几个核心,并不会更快,所以长时间的计算任务仍然要限制并行度。

文件 I/O、JDBC 驱动和第三方 native 调用(调用本地机器代码的方法)要按实际实现验证。其中一部分阻塞操作不能卸载,会继续占着 carrier,扩展能力需要压测确认。

5. pinning 与 JDK 版本​

pinning 是指虚拟线程被固定在 carrier 上,阻塞时也无法卸载。这时一个等待中的虚拟线程会一直占着一个平台线程,其他虚拟线程可用的 carrier 就少了一个。pinning 不会让程序出错,线程语义仍然成立,它影响的是并发扩展能力:carrier 全被 pin 住时,其他虚拟线程即使就绪也无法运行。

Java 21 中,虚拟线程持有 monitor(synchronized 使用的对象监视器锁)时发生阻塞,就会 pinning。如果代码频繁在 synchronized 块里做慢 I/O,carrier 会被长时间占住。对这类代码,可以把 synchronized 换成 ReentrantLock,持有它时的阻塞可以正常卸载。

native 调用也会造成 pinning。例如 native 方法回调 Java 代码后,Java 代码里发生了阻塞,虚拟线程同样会被固定在 carrier 上。

6. ThreadLocal 与上下文传播​

虚拟线程支持 ThreadLocal,每个线程照样保存自己的值。但虚拟线程可以有几百万个,如果每个都缓存一个昂贵对象,总内存会显著增加。线程按任务创建也意味着没有固定的 Worker 可以跨任务复用这些缓存,以前「每个池线程缓存一份」的优化在这里不成立了。

外部资源应在明确的作用域内获取和释放,跨线程任务显式传递必要的上下文。清理与恢复规则见 ThreadLocal。

7. 迁移验证​

迁移到虚拟线程后,要验证吞吐是否真的提高,以及瓶颈是不是转移到了下游。比如数据库只有 30 个连接,创建再多的虚拟线程,也只是让更多任务排在连接池前面。

压测时记录以下性能与资源指标:

  • 吞吐与 P99:完成了多少请求,较慢的请求耗时多少。
  • CPU 与内存:计算成本和在途任务占用的内存。
  • carrier 数量与 pinning:平台线程是否被持续占住。
  • 数据库连接等待:请求是否卡在下游资源的入口。

JDBC 驱动、各种客户端和观测工具对虚拟线程的支持程度不同,要按实际使用的版本验证。测试还要覆盖过载、超时和任务退出,确认任务取消后资源会按预期释放。

8. pinning 的版本诊断​

定位 pinning,要找出持续占用 carrier 的阻塞栈,再判断值不值得替换锁。Java 21 可以用 -Djdk.tracePinnedThreads=full 在发生 pinning 时打印栈。它能覆盖持有 monitor 时的阻塞,但对等待进入 monitor 等情况观测不到。

JFR(JDK 的运行事件记录工具)提供 jdk.VirtualThreadPinned 事件,记录持续时间超过阈值的 pinning。Java 21 默认启用这个事件,阈值为 20 毫秒。

并不是所有 synchronized 都要替换。只做短小内存操作的同步块,持锁时间很短,也不会阻塞,可以继续用 synchronized。要不要替换,看持锁阻塞发生的频率、持续时长,以及它对吞吐的实际影响。

9. 虚拟线程的观测与退出​

迁移后,还要检查观测工具能不能看到虚拟线程,以及程序退出时会不会丢任务。Java 21 的 ThreadMXBean 只统计平台线程,基于它的线程数指标会漏掉虚拟线程。查看虚拟线程要用专门的转储命令:

jcmd <pid> Thread.dump_to_file -format=json threads.json

这条命令把平台线程和虚拟线程的栈都写入 JSON 文件,适合查看大量线程。不过它不包含传统线程转储里的完整锁信息等内容。

虚拟线程始终是守护线程。守护线程不会阻止 JVM 退出:所有非守护线程结束后,JVM 就开始退出,还在运行的虚拟线程会被直接终止。所以程序要通过 join、Future 或关闭执行器,显式等待任务完成。

ExecutorService.close() 会等待执行器里的任务全部结束,所以第 2 节的示例在退出 try-with-resources 时也会等待。请求有总超时要求时,仍然要安排明确的取消和退出期限,不能无限等下去。

10. 常见问题​

10.1 虚拟线程会让单个任务更快吗?​

不会。虚拟线程降低的是承载线程的成本,一次网络往返、一段 CPU 计算该花多久还是多久。它的收益在于让大量 I/O 任务可以同时等待,从而提高服务的整体吞吐,同时保留容易理解的同步代码。

10.2 使用虚拟线程以后还需要线程池吗?​

11. 面试题卡片​

12. 参考资料​

来源:Coding 101 原文 · 免费阅读,引用请保留出处。内容使用说明