虚拟线程
虚拟线程是由 JVM 调度的轻量级线程,自 JDK 21 正式提供。它的创建和阻塞成本远低于平台线程,所以可以为每个任务创建一个线程,用普通的同步代码同时承载大量阻塞 I/O。但虚拟线程只降低了线程本身的成本:CPU、数据库连接、下游接口的容量都没有变多,Java 21 中某些阻塞还会把底下的平台线程一起占住。用好虚拟线程,要清楚它怎样运行、适合什么负载,以及还有哪些资源需要单独限制。本文以 Java 21 为准。
1. 面试核心
先记住这几条,再读正文- 虚拟线程自 JDK 21 正式提供,每个任务创建一个线程,任务结束线程随之结束,不需要池化。
- 虚拟线程遇到支持卸载的阻塞操作时,会让出承载它的平台线程,供其他虚拟线程运行。
- 虚拟线程适合用同步代码承载大量阻塞 I/O,CPU 计算的吞吐仍受可用核心数限制。卡 · 虚拟线程与 carrier 线程
- Java 21 中,虚拟线程持有 monitor 时阻塞会导致 pinning,承载它的平台线程被一起占住。卡 · pinning 的版本诊断
- 虚拟线程始终是守护线程,程序退出前要通过
join、Future 或关闭执行器等待任务完成。卡 · 虚拟线程的观测与退出
2. 虚拟线程与 carrier 线程
虚拟线程执行代码时,仍然要借助一个平台线程。承载它的平台线程叫 carrier 线程,也叫载体线程。对应用代码来说,这一层是透明的,照常写同步调用即可:
try (ExecutorService executor =
Executors.newVirtualThreadPerTaskExecutor()) {
Future<Response> response = executor.submit(() -> client.call());
return response.get();
}
这个执行器为每个提交的任务创建一个新的虚拟线程。get() 等待并取得 client.call() 的结果,退出 try-with-resources 时关闭执行器。
JVM 把大量虚拟线程调度到少量 carrier 上运行。虚拟线程占用一个 carrier 执行代码,叫挂载;遇到支持卸载的阻塞操作(比如等网络响应),它会把自己的栈保存起来、从 carrier 上卸下,carrier 转去运行别的虚拟线程。等待结束后,这个虚拟线程重新排队,等着再次挂载到某个 carrier 上继续执行。所以几千个虚拟线程同时等网络,只需要几个 carrier。
虚拟线程保留了 Java 原有的调用栈、异常和中断模型,常用的 Thread API 照样能用,Thread.currentThread() 返回的就是当前虚拟线程对象。这意味着「一个请求一个线程」的同步写法可以原样保留,不必改成回调或响应式风格。
3. 虚拟线程与线程池
线程池存在的理由,是平台线程的创建成本和栈内存都很高,需要复用并限制数量。虚拟线程便宜,按任务创建、用完就结束即可。如果把虚拟线程也放进一个只有少量 Worker 的池里,任务又会在池前排队,虚拟线程能同时承载大量等待的优势就没了。
newVirtualThreadPerTaskExecutor() 没有线程数上限,线程数不再替你挡住下游。所以要在稀缺资源的入口单独限制并发,比如限制同时查询数据库的任务数:
Semaphore dbPermits = new Semaphore(30);
dbPermits.acquire();
try {
return repository.query();
} finally {
dbPermits.release();
}
Semaphore 是按许可数量限制并发的信号量。所有查询都通过同一个 dbPermits 并遵守这个写法时,最多同时有 30 个查询在执行。acquire() 放在 try 之前,只有拿到许可才进入 try,finally 里归还,不会多还。
许可只限制正在查询的数量,等许可的任务仍然占着内存。所以服务入口还要限制总的在途任务数,也就是已经接收、还没完成的任务数,避免流量过大时无限制地创建虚拟线程。
4. 适用场景
虚拟线程适合数量大、彼此独立、大部分时间在等 I/O 的任务,比如服务需要同时发出大量 HTTP 请求或 JDBC 查询。JDK 的网络阻塞操作支持卸载 carrier,同一台机器就能承载多得多的等待中任务。
CPU 计算则不同,它一直占用处理器。大量虚拟线程同时计算,争夺的还是那几个核心,并不会更快,所以长时间的计算任务仍然要限制并行度。
文件 I/O、JDBC 驱动和第三方 native 调用(调用本地机器代码的方法)要按实际实现验证。其中一部分阻塞操作不能卸载,会继续占着 carrier,扩展能力需要压测确认。
5. pinning 与 JDK 版本
pinning 是指虚拟线程被固定在 carrier 上,阻塞时也无法卸载。这时一个等待中的虚拟线程会一直占着一个平台线程,其他虚拟线程可用的 carrier 就少了一个。pinning 不会让程序出错,线程语义仍然成立,它影响的是并发扩展能力:carrier 全被 pin 住时,其他虚拟线程即使就绪也无法运行。
Java 21 中,虚拟线程持有 monitor(synchronized 使用的对象监视器锁)时发生阻塞,就会 pinning。如果代码频繁在 synchronized 块里做慢 I/O,carrier 会被长时间占住。对这类代码,可以把 synchronized 换成 ReentrantLock,持有它时的阻塞可以正常卸载。
native 调用也会造成 pinning。例如 native 方法回调 Java 代码后,Java 代码里发生了阻塞,虚拟线程同样会被固定在 carrier 上。
6. ThreadLocal 与上下文传播
虚拟线程支持 ThreadLocal,每个线程照样保存自己的值。但虚拟线程可以有几百万个,如果每个都缓存一个昂贵对象,总内存会显著增加。线程按任务创建也意味着没有固定的 Worker 可以跨任务复用这些缓存,以前「每个池线程缓存一份」的优化在这里不成立了。
外部资源应在明确的作用域内获取和释放,跨线程任务显式传递必要的上下文。清理与恢复规则见 ThreadLocal。
7. 迁移验证
迁移到虚拟线程后,要验证吞吐是否真的提高,以及瓶颈是不是转移到了下游。比如数据库只有 30 个连接,创建再多的虚拟线程,也只是让更多任务排在连接池前面。
压测时记录以下性能与资源指标:
- 吞吐与 P99:完成了多少请求,较慢的请求耗时多少。
- CPU 与内存:计算成本和在途任务占用的内存。
- carrier 数量与 pinning:平台线程是否被持续占住。
- 数据库连接等待:请求是否卡在下游资源的入口。
JDBC 驱动、各种客户端和观测工具对虚拟线程的支持程度不同,要按实际使用的版本验证。测试还要覆盖过载、超时和任务退出,确认任务取消后资源会按预期释放。
8. pinning 的版本诊断
定位 pinning,要找出持续占用 carrier 的阻塞栈,再判断值不值得替换锁。Java 21 可以用 -Djdk.tracePinnedThreads=full 在发生 pinning 时打印栈。它能覆盖持有 monitor 时的阻塞,但对等待进入 monitor 等情况观测不到。
JFR(JDK 的运行事件记录工具)提供 jdk.VirtualThreadPinned 事件,记录持续时间超过阈值的 pinning。Java 21 默认启用这个事件,阈值为 20 毫秒。
并不是所有 synchronized 都要替换。只做短小内存操作的同步块,持锁时间很短,也不会阻塞,可以继续用 synchronized。要不要替换,看持锁阻塞发生的频率、持续时长,以及它对吞吐的实际影响。
9. 虚拟线程的观测与退出
迁移后,还要检查观测工具能不能看到虚拟线程,以及程序退出时会不会丢任务。Java 21 的 ThreadMXBean 只统计平台线程,基于它的线程数指标会漏掉虚拟线程。查看虚拟线程要用专门的转储命令:
jcmd <pid> Thread.dump_to_file -format=json threads.json
这条命令把平台线程和虚拟线程的栈都写入 JSON 文件,适合查看大量线程。不过它不包含传统线程转储里的完整锁信息等内容。
虚拟线程始终是守护线程。守护线程不会阻止 JVM 退出:所有非守护线程结束后,JVM 就开始退出,还在运行的虚拟线程会被直接终止。所以程序要通过 join、Future 或关闭执行器,显式等待任务完成。
ExecutorService.close() 会等待执行器里的任务全部结束,所以第 2 节的示例在退出 try-with-resources 时也会等待。请求有总超时要求时,仍然要安排明确的取消和退出期限,不能无限等下去。
10. 常见问题
10.1 虚拟线程会让单个任务更快吗?
不会。虚拟线程降低的是承载线程的成本,一次网络往返、一段 CPU 计算该花多久还是多久。它的收益在于让大量 I/O 任务可以同时等待,从而提高服务的整体吞吐,同时保留容易理解的同步代码。
10.2 使用虚拟线程以后还需要线程池吗?
虚拟线程本身不需要池化,按任务创建即可。但平台线程执行器、定时任务和 CPU 并行计算仍然可以用线程池。连接池和限流器也照样需要,它们限制的是稀缺资源而不是线程,容量应该在资源实际被使用的入口控制。
11. 面试题卡片
12. 参考资料
- Oracle:Virtual Threads
- Java API:
Executors.newVirtualThreadPerTaskExecutor - Java 21:jcmd
- Java 21 API:ThreadMXBean
- Java 21 API:ExecutorService
来源:Coding 101 原文 · 免费阅读,引用请保留出处。内容使用说明