外观
13 - JDK 21 虚拟线程实战
适用 JDK:虚拟线程在 JDK 21 正式发布。JDK 21–23 与 JDK 24+ 的
synchronizedPinning 行为存在重要差异,必须按实际运行版本验证。
前置阅读:02 - Java 线程生命周期与正确中断方式、09 - ThreadPoolExecutor 参数与容量设计。
摘要
一个请求需要等待数据库或远端接口时,代码虽然没有计算,线程却仍要保留执行状态。并发请求越多,传统平台线程的占用成本就越值得关注。虚拟线程适合改善这类大量阻塞 I/O(输入输出)任务的可扩展性,但不会增加 CPU、数据库连接或下游服务的处理容量。
先区分两层线程:平台线程由操作系统调度;虚拟线程由 JVM(Java 虚拟机)调度,执行时借助平台线程,后者称为 Carrier Thread(载体线程)。遇到支持卸载的阻塞操作时,JVM 可以保留虚拟线程的执行状态,让它暂时离开载体;载体便能执行其他任务。等待结束后,虚拟线程再被调度继续执行。这就是“卸载”,不是业务任务已经结束。
因此,虚拟线程降低的是等待期间占用平台线程的成本。业务代码仍可以按“发起调用、等待结果、继续处理”的顺序编写。本文先说明用法和容量边界,再讨论 Pinning、上下文与迁移验证。
版本演进
| JDK | 状态 | 迁移关注点 |
|---|---|---|
| 19 | 第一次预览,JEP 425 | API 与行为仍处于预览阶段 |
| 20 | 第二次预览,JEP 436 | 继续验证工具和框架兼容性 |
| 21 | 正式特性,JEP 444 | 可在不启用 preview 的情况下使用 |
| 24+ | JEP 491 改进 Monitor Pinning(与 synchronized 监视器锁有关的载体绑定) | 不再沿用“锁内阻塞必然 Pinning”的旧结论 |
本文的最低运行基线是 JDK 21。JEP 是 JDK 增强提案,用于说明特性的设计和版本变化。若框架或探针只宣称支持“Java 21”,仍应核对具体更新版本及其对虚拟线程、JFR(Java Flight Recorder,运行时事件记录工具)和线程 Dump(线程状态与调用栈快照)的支持。
1. 基本用法
下面同时查询用户和订单,再组合结果。ExecutorService 是任务执行器接口;newVirtualThreadPerTaskExecutor() 为每个提交的任务创建一个虚拟线程。submit() 返回 Future,用于等待并取得任务结果。
本文所有 Java 代码都是局部片段,未编译运行。使用时需补充 java.util.concurrent 中相关类型及 java.util.List 的导入,并提供 User、Order、UserView、客户端、仓库、BusyException 等业务类型与对象;所在方法还需处理或声明相应异常。
java
try (ExecutorService executor =
Executors.newVirtualThreadPerTaskExecutor()) {
Future<User> user = executor.submit(() -> userClient.load(id));
Future<List<Order>> orders = executor.submit(() -> orderClient.load(id));
return new UserView(user.get(), orders.get());
}两个任务都先提交,再依次调用 get() 取结果,因此等待用户结果时,订单查询也有机会执行。成功时返回两份结果组成的 UserView;这里没有固定输出,也没有性能测量。
这段代码展示提交和等待,不是完整的请求生命周期管理:get() 没有设置超时,某个任务失败后也没有显式取消另一个任务。try 的资源管理会在离开代码块时关闭执行器,其关闭过程涉及等待任务结束;不能把离开代码块理解为立即终止所有任务。在线服务仍需设计超时、取消及关闭行为。
2. 适合与不适合
适合:
- 大量相互独立、主要时间用于等待的阻塞 I/O 任务;
- 希望保留顺序编写的同步代码,避免复杂异步回调;
- 任务生命周期清晰,能够为每个任务设计取消和超时。
不会直接受益:
- CPU 密集型计算;
- 已受数据库连接池或下游 QPS(每秒请求数)限制的任务:增加等待任务数并不能突破这些容量;
- 依赖大量长时间 Native(本地代码)调用或特定 Pinning 场景的工作负载,需先核实其阻塞路径。
CPU 密集型任务需要处理器真正执行计算,无法靠释放等待中的载体来加速。判断是否适合时,先区分时间花在计算、I/O 等待还是资源排队,再考虑线程模型。
3. 不要池化虚拟线程
平台线程池的一个核心目标是复用创建和占用成本较高的线程。虚拟线程设计为每任务创建,不应再用固定大小的虚拟线程池来复用线程、表达业务容量限制。
线程轻量不代表它访问的资源也变多。例如,数据库连接仍然有限,更多任务只会等待连接。因此,需要用 Semaphore(信号量)、连接池、限流器等单独控制资源使用。信号量维护一组许可:任务先取得许可,结束后归还,限制同时进入受保护操作的任务数。
下面的 50 只是示例许可数,不是实测值或通用推荐值。permits 必须由需要共同限流的任务共享;如果每个任务各建一个信号量,就无法限制总并发数。
java
Semaphore permits = new Semaphore(50);
permits.acquire();
try {
return repository.query();
} finally {
permits.release();
}acquire() 必须在进入 try/finally 之前成功。如果把它写在 try 内,线程在未获得许可时被中断,finally 仍会执行 release(),导致许可数凭空增加。
在线服务通常还需限制等待许可的时间,避免任务无限积压。Deadline 指整个请求的截止时间;remainingNanos 是距离该截止时间剩余的纳秒数,由调用方计算。下面用带超时的 tryAcquire() 让等待许可也消耗同一份时间预算:
java
boolean acquired = permits.tryAcquire(remainingNanos, TimeUnit.NANOSECONDS);
if (!acquired) {
throw new BusyException("downstream concurrency limit reached");
}
try {
return repository.query();
} finally {
permits.release();
}取得许可后,repository.query() 仍需遵守剩余时间预算;信号量的等待超时不会自动为数据库查询设置超时。未取得许可时抛出的 BusyException 是业务自定义异常,表示本次请求无法在预算内进入受保护操作。
4. Pinning
Pinning 指虚拟线程无法从载体上卸载的情况。如果此时发生长时间阻塞,载体也会被占住,无法去执行其他虚拟线程;这会削弱前面所述的等待成本优势。它不等于死锁,影响需要结合持续时间、频率和可用载体判断。版本必须分开说明:
- JDK 21–23:在
synchronized临界区内发生阻塞是重点 Pinning 风险。 - JDK 24+:JEP 491 使虚拟线程在大多数
synchronized场景下可以卸载,不应继续将“所有 synchronized + 阻塞”当作固定结论。 - Native/foreign function(本地代码或外部函数)调用等其他限制仍要根据目标 JDK、库实现和 JFR 结果核实。
synchronized 临界区是由同一把监视器锁保护的代码区域。下面是风险片段,lock 和 remoteCall() 由业务提供;调用发生在持锁期间:
java
synchronized (lock) {
remoteCall(); // 长时间阻塞应避免留在临界区内
}即使目标版本改善了监视器相关 Pinning,慢调用期间持锁仍可能让需要同一把锁的任务排队。调整临界区时必须保留原有的共享状态保护,不能仅为避免 Pinning 就直接移除锁。
可使用目标版本支持的 JFR 虚拟线程事件和相关诊断选项检查。迁移报告应明确记录 JDK 大版本和更新版本,不能只写“已使用 JDK 21+”;具体事件、阈值及诊断选项也需按该版本确认。
5. ThreadLocal 与观测
ThreadLocal 为每个线程保存各自的变量值,虚拟线程也支持它。原先在少量固定工作线程上缓存一个大对象,成本可能可控;改成每任务一个虚拟线程后,大量同时存活的线程可能各保留一份,内存成本就会放大。因此,不要依赖 ThreadLocal 缓存昂贵资源,并检查旧有框架对固定线程长期复用的假设。
监控时不要试图将数百万个虚拟线程全部当作传统线程逐个展示,应更关注任务延迟、超时、下游容量和 JFR 事件。
上下文传播是将请求 ID、身份等信息带到执行相关任务的线程。ThreadLocal 的清理和上下文传播见 B - ThreadLocal 内存泄漏与上下文污染。Scoped Values 用作用域表达上下文绑定;它在较新 JDK 中的 API 状态与使用方式应以目标版本文档为准,不要在需要支持 JDK 21 的通用库中无条件引入更高版本 API。
6. 虚拟线程与 CompletableFuture 怎么选
这些工具解决的问题不同:虚拟线程提供任务执行模型;CompletableFuture 用于组合异步结果,表达“哪个任务完成后执行什么”;ForkJoinPool 适合拆分计算任务;结构化并发则围绕一组父子任务的共同生命周期组织等待、失败和取消。
| 问题特征 | 优先考虑 |
|---|---|
| 大量独立阻塞 I/O,希望保留同步代码 | 虚拟线程 |
| 需要构建显式的任务依赖图、组合多个已有异步 API | CompletableFuture |
| CPU 密集的可递归分割计算 | ForkJoinPool |
| 一组有明确生命周期、需要共同取消的子任务 | 按目标 JDK 评估结构化并发 API |
这些工具并非只能择一使用。无论选择哪种执行模型,都需明确 Deadline 如何传递、子任务何时取消、多个错误如何汇总。与 10 - CompletableFuture 异步编排对比时,应同时评估代码组织方式,以及一个任务失败后其余任务如何处理。
7. 迁移验证清单
- 使用相同业务负载对比平台线程和虚拟线程的吞吐(单位时间完成的请求数)、P99(99% 请求耗时不超过的值)、CPU 与内存,并记录硬件、JDK 更新版本、连接池配置及测量方法。
- 同时观察数据库连接池、HTTP 连接池和下游限流,防止只把排队从线程池搬到下游。
- 注入中断、超时和关闭,确认阻塞客户端能正确退出。
- 用目标版本支持的 JFR 事件观察虚拟线程创建、启动、终止和 Pinning,并结合任务时间数据分析调度延迟;不要假定每个观察目标都有同名的直接事件。
- 检查所有 ThreadLocal 值的对象大小和生命周期。
本文没有提供历史压测记录,也未执行上述迁移实验。清单用于组织验证,不能据此推断特定业务的吞吐提升或延迟下降。
7.1 编译、运行与依赖检查
JDK 21 的虚拟线程已经正式发布,不需要 --enable-preview。如果构建仍要求该参数,通常说明项目还同时使用结构化并发等预览 API,或构建配置残留了早期预览设置。
升级前应检查:
- 编译 JDK、运行 JDK 与容器基础镜像是否一致;
- APM(应用性能监控)、字节码增强、线程监控和测试框架是否识别虚拟线程;
- 客户端库的阻塞调用是否能在中断和超时后退出;
- 依赖是否假定 ThreadLocal 与固定工作线程长期绑定;
- 运维脚本是否会枚举并完整输出海量虚拟线程。
8. 容易踩的坑
- 只替换执行器,不检查排队位置:线程池队列缩短了,下游连接等待却可能变长。
- 把等待许可的超时当作整个操作的超时:取得许可后,调用仍可能继续阻塞。
- 把
Future.get()失败当作其他任务自动取消:示例没有建立共同取消机制。 - 沿用旧版本的 Pinning 结论,或只凭“支持 Java 21”判断框架和诊断工具兼容。
9. 总结
虚拟线程让“一任务一线程”在阻塞 I/O 场景更可扩展,但稀缺资源仍必须单独限制。
迁移时先确认耗时主要来自可卸载的阻塞等待,再为下游设置独立并发限制和时间预算,最后用目标 JDK 与实际负载检查性能、失败和关闭行为。
后续阅读:18 - 结构化并发与任务生命周期讨论父子任务的共同失败与取消;版本化 Pinning 诊断见 26 - 虚拟线程 Pinning 与载体线程饥饿排查。