外观
A - Java 并发代码测试方法
适用 JDK:JDK 8+。JCStress 与 JMH 的具体版本要与测试 JDK 匹配。
建议在 03 - JMM 与 happens-before之后阅读本文,再继续学习锁、CAS 和并发容器。
摘要
两个线程都给计数器加一,最终值却少了一次:这类错误取决于线程操作如何穿插,某次运行可能恰好避开问题。线程交错就是多个线程的操作以不同顺序穿插执行;重复运行可以增加观察机会,却不能保证覆盖所有交错。
先把测试分成三个问题:业务约束是否成立、共享读写的结果是否符合 Java 内存模型(JMM)的规则、在指定负载下性能如何。普通并发测试验证业务约束,JCStress 观察并发读写结果,JMH 测量微观性能。三者的证据不能互相替代。
基本流程是“安排起点 → 执行并发操作 → 有限等待 → 检查状态与任务结果 → 清理”。下面先解释同步点与断言,再讨论工具和故障路径。本文代码是局部测试骨架,未编译运行;次数和超时值是示例参数,不是实测记录或通用配置。
1. 不要用 sleep() 制造时序
sleep() 只能让当前线程暂停,不能确认另一个线程已执行到哪里,也不会建立共享状态的可见性保证。下面是反例片段,task 和 assertState() 分别代表被测任务和状态断言:
java
Thread worker = new Thread(task);
worker.start();
Thread.sleep(100); // 不能保证 worker 已到达目标位置
assertState();应使用 CountDownLatch(倒计时门闩)建立同步点:countDown() 将计数减一,计数归零后,等待它的 await() 才能成功返回。下面用三个门闩分别表示“工作线程已就绪”“允许开始”“任务已结束”:
这是测试方法内的局部片段,需要 java.util.concurrent 中的 CountDownLatch、TimeUnit,以及测试框架的 assertTrue。threadCount、executor 和 operation 由外围测试提供,测试方法还需处理或声明 InterruptedException。
java
CountDownLatch ready = new CountDownLatch(threadCount);
CountDownLatch start = new CountDownLatch(1);
CountDownLatch done = new CountDownLatch(threadCount);
for (int i = 0; i < threadCount; i++) {
executor.execute(() -> {
ready.countDown();
try {
start.await();
operation.run();
} catch (InterruptedException e) {
Thread.currentThread().interrupt();
} finally {
done.countDown();
}
});
}
assertTrue(ready.await(1, TimeUnit.SECONDS));
start.countDown();
assertTrue(done.await(5, TimeUnit.SECONDS));ready 归零说明所有任务都已发出就绪信号;主线程再释放 start,让它们获得开始操作的机会。这不保证线程在同一时刻运行,也不固定 operation.run() 内部的交错。done 在 finally 中计数,表示任务离开了这段执行流程,不表示业务成功:中断或异常也会走到这里,因此还需收集工作线程的异常并检查业务结果。
使用这个骨架时,执行器必须能让全部任务到达就绪点。例如固定线程池的可用工作线程少于 threadCount 时,先运行的任务会阻塞在 start.await(),排队任务无法发出就绪信号,测试就可能因自身设计而超时。
片段尚未包含失败清理。就绪等待失败或提交被拒绝时,主线程可能来不及释放 start;完整测试必须在清理路径中解除等待、请求取消并检查任务退出,不能只让断言终止主测试线程。第 6.3 节进一步说明资源清理要求。
2. 验证不变量
不变量是业务要求必须保持的状态约束。不要只断言“没抛异常”:操作可能正常返回,却丢失更新或重复生效。例如,在不含手续费、充值和提现的转账测试中,应检查总资产不变;单账户是否越界、每个交易是否最多生效一次,则按业务约定检查。
还要明确观察时点。操作全部完成后检查总资产,验证的是最终状态;如果契约要求操作期间也不能被外部读到不一致状态,就需要覆盖相应的并发读取路径,不能仅凭最终值证明。
应同时检查三类属性:
- Safety(安全性):不应发生的结果不发生,例如库存不为负。
- Liveness(活性):系统最终能推进。死锁是线程互相等待而无法继续;活锁是线程持续响应或重试,却没有有效进展;饥饿是某个任务长期得不到执行所需的机会或资源。
- Cancellation safety(取消安全性):在中断、超时或关闭路径中,状态仍然一致,许可、锁和资源不泄漏。取消请求不等于任务已经停止,还需检查实际退出与清理结果。
2.1 可重复的竞争测试骨架
以下片段假设 Counter 初始值为 0,runIncrement() 先发出就绪信号,再等待起点释放,随后执行一次加一;二者的实现均未展示。所需同步类、断言和中断处理与上一节相同。预期断言是两个线程结束后计数为 2,并不是本文已取得的运行结果。
java
for (int round = 0; round < 1_000; round++) {
Counter counter = new Counter();
CountDownLatch ready = new CountDownLatch(2);
CountDownLatch start = new CountDownLatch(1);
Thread a = new Thread(() -> runIncrement(counter, ready, start));
Thread b = new Thread(() -> runIncrement(counter, ready, start));
a.start();
b.start();
if (!ready.await(1, TimeUnit.SECONDS)) {
throw new AssertionError("workers not ready");
}
start.countDown();
a.join(1_000);
b.join(1_000);
if (a.isAlive() || b.isAlive()) {
a.interrupt();
b.interrupt();
throw new AssertionError("possible liveness failure");
}
assertEquals(2, counter.get());
}每轮创建新计数器,避免上一轮状态影响下一轮;共同起点增加两次加一发生竞争的机会。带超时的 join() 返回后仍要检查 isAlive(),因为返回可能只是等待到期,而非线程已结束。只有确认两条线程都结束后,才检查最终计数。
这里的超时是活性问题的线索,不能仅凭一次超时认定死锁。interrupt() 也只是请求中断,不保证线程退出;就绪超时分支还缺少清理。完整测试需要在失败路径保留线程栈、解除门闩等待、收集异常并确认线程结束。这个骨架提供重复观察机会,仍不能枚举 JMM 允许的全部结果。
3. JMH 不证明线程安全
JMH(Java Microbenchmark Harness)用于微基准测试,即测量一小段操作的性能。Java 代码运行期间,JIT(即时编译器)会把热点代码编译为机器码,所以刚启动时与稳定运行时的耗时可能不同;预热用于让测量前的代码经历运行与编译。
另一个风险是死代码消除:结果从未被使用时,编译器可能删除被测计算。JMH 提供组织预热、测量和结果消费的机制,但仍需正确设计基准,不能自动消除所有误差。它可以比较 AtomicLong、LongAdder 和锁在特定竞争下的吞吐(单位时间完成的操作数),却不能据此证明线程安全。
一个可审查的并发基准至少应说明:
- JDK 版本、CPU 架构和核数;
@Threads指定的测试线程数、预热、测量轮数和 fork 数(独立启动 JVM 的次数);- 状态是线程私有、线程组共享还是全局共享:各线程操作独立计数器与争用同一个计数器,测量的是不同场景;
- 指标是吞吐、平均时间还是分位延迟,并说明测量模式和统计方式;分位延迟描述按耗时排序后某个位置的观测值;
- 返回值是否被消费,是否存在常量折叠(提前计算固定表达式)或死代码消除。
不要在同一个基准中同时改变算法、数据量、线程数和 JVM 参数,否则无法归因。
4. JCStress 验证 JMM 可能结果
JCStress 是 OpenJDK 的并发压力测试工具,用于观察不同线程交错下的结果,再与 JMM 和被测算法的约束对照。它适合测试底层同步组件、安全发布(让其他线程按规则看到对象初始化状态)和重排(编译器或处理器在规则允许的范围内调整操作顺序),不能代替普通业务集成测试。
设计用例时,先确定共享状态、各线程执行的操作和最终要记录的值,再根据同步协议定义允许与禁止的结果。不能先看本机跑出了什么,再把观察到的结果全部标成正确。
JCStress 用例需要明确列出结果分类:
ACCEPTABLE:规范允许且算法可接受。ACCEPTABLE_INTERESTING:规范允许,但值得关注的边界结果。FORBIDDEN:同步协议正确时不应出现。
这些分类表达用例作者对结果的预期,工具不会自动替作者证明规范允许什么。“本机没有观察到 FORBIDDEN”只是测试证据;仍需用 happens-before(可见性与顺序约束关系)分析读写,或在要求线性化的算法中找出线性化点,即一次并发操作可被视为瞬间生效的位置。具体证明方式取决于算法契约。
5. 故障注入与少见路径
正常路径可能释放资源,但异常或取消路径绕过了同样的清理逻辑。故障注入是主动让执行到达这些失败分支,以检查状态、资源和后续操作,而不只是确认异常被抛出。应覆盖:
- 任务提交被拒绝;
- 获取锁或许可时中断;
- 获取资源成功后、进入
try之前失败; - 任务中途抛异常;
- 线程池关闭与任务完成同时发生;
- 超时后底层任务仍继续执行。
例如,获取许可后失败,要检查许可是否归还;调用超时后,要检查底层任务是否仍在运行,以及它稍后完成时会不会继续修改状态。这样才能把注入点与取消安全性的断言连接起来。
每个测试都应有总超时,并在失败时输出线程 Dump(线程快照)或至少输出未结束线程的调用栈。CI(持续集成环境)中的超时往往只说明测试没结束,线程栈才能帮助区分被测代码等待、测试同步错误和清理失败。
6. 测试矩阵
同一段代码在不同运行环境和竞争强度下,可能表现出不同交错。按项目支持范围组合以下维度,并记录每次使用的配置;矩阵用于扩大观察范围,不代表已经覆盖所有执行:
- 不同 JDK 版本与 GC(垃圾回收器);
- 不同 CPU 架构,条件允许时至少覆盖 x86_64 和 ARM64;
- 单核/多核、低竞争/高竞争;
- 正常、异常、中断、超时和关闭路径;
- 重复执行与随机化调度。
6.1 测试同步本身会改变交错
Latch 和 Barrier(让参与线程到达约定点后再继续的屏障)会增加同步关系;日志也可能带来调度延迟或内部锁竞争。若在原本缺少同步的写入与读取之间加入门闩,测试就可能补上被测代码缺失的 happens-before 关系,从而隐藏竞态,即依赖操作交错才暴露的问题。
因此应把测试分成两层:
- 定向测试:用同步点把线程推进到已知窗口,验证某个异常路径和业务不变量;
- 扰动测试:减少额外同步,随机改变线程数、任务顺序和让步位置,扩大可观察交错。
Thread.yield()、随机短暂停顿只能增加调度扰动,不提供正确性保证,也不能作为生产修复。
6.2 不要断言具体执行顺序
除非顺序本身就是 API 契约,否则不要断言“线程 A 一定先打印、线程 B 一定后完成”。应断言允许结果集合和最终不变量。
对超时测试也要区分:
- 业务超时:被测代码是否在预算内返回;
- 测试看门狗:测试框架防止 CI 永久卡住的更大上限。
业务超时用于检查被测契约;看门狗需要给测试准备、调度和清理留出余量。两者使用同一个很短阈值,会让负载稍高的 CI 机器产生假失败;看门狗也必须有有限上限,才能及时结束卡住的测试并保留现场。
6.3 失败时保留现场
并发测试失败通常难以复现。失败输出应包含轮次、JDK、线程数、任务状态和相关线程栈;使用随机化时记录随机种子(生成随机序列的初始值),使用队列时记录剩余队列。种子有助于重建输入,但不能保证操作系统再次给出相同的线程调度。单独的 expected 2 but was 1 无法说明错误发生在哪条路径。
测试创建的 Executor 必须在 finally 或测试生命周期回调中关闭;否则前一个用例遗留的线程会污染后续测试,并可能让测试进程无法退出。相关排查见 27 - 并发任务泄漏与进程无法退出。
关闭执行器、请求中断和确认任务退出是不同步骤。清理也需要有限等待;若线程仍未退出,应报告清理失败,并保留栈信息,不能把“已经调用关闭方法”当作资源已回收。
7. 工具选择矩阵
先确定要回答的问题,再选工具。JUnit 是组织测试与断言的框架;JFR(Java Flight Recorder)、async-profiler 是运行时事件记录或采样工具,线程 Dump 提供某一时刻的线程状态。尾延迟关注少量较慢请求,不能仅凭平均耗时判断。
| 目标 | 优先工具 | 不能证明什么 |
|---|---|---|
| 业务不变量 | JUnit + 同步器 + 重复执行 | 不能枚举所有 JMM 结果 |
| JMM 允许结果 | JCStress | 不代表生产吞吐 |
| 微观性能 | JMH | 不证明线程安全 |
| 整体容量与尾延迟 | 压测 + 真实下游 | 不能精确分离单个算法成本 |
| 生产热点和等待 | JFR / async-profiler / Thread Dump | 单次采样不能证明因果 |
8. 容易踩的坑
- 用完成信号代替成功断言:
done归零或线程结束,也可能伴随业务异常。 - 只检查最终状态:遗漏契约要求的中间可见状态和取消后的资源清理。
- 用手写
System.nanoTime()循环替代 JMH:若没有控制预热、优化和测量条件,数字难以比较。 - 用闭环压测推断独立到达流量下的容量:闭环客户端等待响应后才发送下一请求,服务变慢时发送速率也会下降,可能掩盖过载时本应继续到达的请求。它可以描述这类等待式客户端,但不能直接代表不随响应变慢而减少的外部到达负载。
9. 总结
并发测试要验证不变量和可能交错,而不是依赖某一次幸运的调度顺序。
- 用同步工具建立测试起点,不用
sleep()猜时序。 - JMH 测性能,JCStress 测 JMM 可能结果。
- 异常、中断、超时和关闭路径与正常路径同样重要。
阅读导航
- 互斥与 Monitor:04 - synchronized 的 Monitor 机制
- AQS 和可中断等待:06 - ReentrantLock 与 AQS
- 无锁算法:07 - CAS 与原子类
- 生产 CPU 证据:14 - Java 进程 CPU 飙高排查