外观
22 - LongAdder、高竞争计数与伪共享
适用 JDK:JDK 8+。
LongAdder是稳定公开 API;@Contended属于 JDK 内部性能机制,不应作为普通业务代码的可移植契约。
摘要
把指标计数器从锁改成 AtomicLong 后,CPU 为什么仍随并发上升?原子更新保证了并发累加的正确性,却没有消除多个线程对同一个存储位置的竞争。LongAdder 把累加分散到多个位置,读取时再求和,适合写入竞争激烈的指标统计;代价是更多空间、汇总开销,以及并发读取时无法取得原子快照。
理解这个取舍,可以先看单个计数器为什么成为热点,再看分段如何减少竞争,最后区分真正共享同一个值与“伪共享”的成本。
1. 单点原子更新仍会竞争
下面是类中的局部片段,省略外围类和 java.util.concurrent.atomic.AtomicLong 的导入:
java
private final AtomicLong requests = new AtomicLong();
void record() {
requests.incrementAndGet();
}CPU 缓存通常以缓存行为单位保存和同步数据;缓存行是一段连续内存,而不只是一个 Java 字段。多个核心反复写同一个计数值时,需要协调各自缓存中的副本,使写入保持一致。获得写权限的缓存行会在核心间迁移,相关的一致性通信可能成为成本。
CAS(Compare-And-Set,比较并设置)会在当前值仍等于预期值时提交更新。使用 CAS 重试的更新路径中,线程读值后若被其他线程抢先修改,就需要重新尝试;竞争越激烈,失败重试和缓存一致性流量都可能增加。这里的原子更新没有 Java 数据竞争,但仍有硬件层面的争用成本。具体更新指令取决于 JDK 与平台,不能把所有开销都归因于 CAS 失败。
低竞争下 AtomicLong 可能更简单、更快;不能因为线程数量多就直接推断 LongAdder 一定获益,应按真实写入竞争度测量。
2. LongAdder 的分段思路
可以把 LongAdder 理解为“分散记账,读取时合账”:线程不必每次都争用同一个总数,而是更新其中一部分;总数由各部分相加得到。
在其分段实现思路中,低竞争时先使用基础值 base,发生竞争后再把更新分散到多个 Cell。Cell 是内部保存部分累加值的单元,不是业务代码需要操作的 API,也不应理解为每个线程固定拥有一个独立计数器。sum() 汇总基础值和各 Cell 的值。
下面是使用片段,需导入 java.util.concurrent.atomic.LongAdder;它展示一次累加和一次读取,不是并发测试:
java
LongAdder completed = new LongAdder();
completed.increment();
long observed = completed.sum();分段减少多个线程争用同一个写点,但读取者需要访问并汇总多个位置,因此带来更多内存占用和汇总成本。写多读少时,这种交换更可能有利;频繁读取时,读取成本也要纳入测量。实现布局可能随 JDK 演进,业务代码应依赖 LongAdder 契约,而不是反射 Cell 数组或假设固定扩容规则。
3. sum() 不是线性化快照
“线性化”是指一个并发操作可以被视为在调用开始到返回之间的某一个瞬间完成。若读取具有这种语义,读者就能把返回值当成那个瞬间的整体状态。
sum() 逐个读取累加位置时,其他线程仍可更新这些位置,因此可能把不同时刻读到的部分值合并起来。它不保证返回某个瞬间的原子快照,适合指标观测,不适合充当精确业务状态。这不等于累加本身会丢失:在没有并发更新时,汇总可以得到累加结果。
不要用它实现:
- 库存是否仍大于零;
- 并发许可证是否已耗尽;
- 达到阈值后只执行一次的状态转换;
- 余额、配额等要求整体线性化的判断。
上述场景通常还需要把“检查条件”和“修改状态”合成一个原子操作;即使换成 AtomicLong,先读取再单独修改也不能自动保证整体正确。
sumThenReset() 也不是与并发更新原子隔离的“切窗”:读取并清零多个累加位置,不能保证所有更新都按同一个时间边界归入前后两个统计窗口。需要准确分桶时,应使用外部窗口切换协议,明确更新属于哪个窗口以及何时可以结算旧窗口。指标采集也可以使用单调累计值计算区间增量,即在只累加、不清零的前提下,用两次读数之差表示采集区间的增量;这仍不把并发读数变成精确时间边界上的快照。
reset() 同样只适合确认没有并发更新的时刻。在线指标采集线程直接周期性 reset(),可能让更新落入读取与清零之间的竞态窗口,造成区间统计遗漏。
3.1 LongAccumulator 也不提供精确快照
LongAccumulator 将分段机制推广到自定义累积函数,适合求和、最大值等运算。函数应无副作用,也就是不在计算之外修改其他状态,因为竞争重试可能让它被重复调用。
累积函数还应满足结合性和交换性:结合性表示改变分组方式不影响结果,交换性表示改变输入顺序不影响结果。数据会在不同 Cell 上分别累积,再被合并,所以函数不能依赖调用次数或执行顺序。
它的 get()、getThenReset() 与 LongAdder 有相似的并发快照边界,不能用来实现必须线性化的业务状态机。
4. ConcurrentHashMap 频率统计
下面是类中的局部片段,省略外围类及 java.util.concurrent.ConcurrentHashMap、java.util.concurrent.atomic.LongAdder 的导入:
java
ConcurrentHashMap<String, LongAdder> counts = new ConcurrentHashMap<>();
void record(String key) {
counts.computeIfAbsent(key, ignored -> new LongAdder()).increment();
}这是 JDK 文档常见的频率映射模式。computeIfAbsent 在键尚未关联值时创建计数器,随后 increment() 累加一次。在没有并发删除或替换映射的情况下,同一个键的记录会使用同一个可并发累加的对象;不同键的计数器则彼此独立。
还需控制键的数量。高基数是指不同取值很多:如果把大量不同的用户 ID、URL 或异常文本直接作为键,又不限制或清理,Map 可能持续增长。
若需要删除长期不用的键,还要处理计数器的生命周期:线程先取得旧 Adder,另一个线程随后删除该键并创建新 Adder,前一个线程再更新旧对象时,这次更新就不在 Map 当前关联的计数器中。统计因此分散到了新旧对象,不能只根据当前 sum() 为零就删除。
5. 伪共享是什么
前面的单点计数是多个线程确实需要修改同一个值。伪共享则发生在另一种情况:两个线程更新逻辑上无关的字段,但字段恰好位于同一缓存行。硬件按整条缓存行协调写入,即使一个线程没有访问另一个线程的字段,也可能让对方的缓存副本失效,造成反复通信。
这也解释了为什么分散计数值后仍要关注布局:若不同累加位置挤在同一缓存行中,逻辑上的分散未必能消除硬件争用。伪共享是硬件、对象布局和访问模式共同作用的结果,不能仅凭源码字段相邻就下结论。
JDK 内部会对部分高竞争结构采用填充或布局控制。填充是通过增加间隔,尝试让热点数据避开同一缓存行;开头提到的 @Contended 属于这类内部性能机制。普通业务代码不要手工添加若干无意义 long 并宣称“解决了伪共享”:对象布局、压缩指针(JVM 对部分引用采用较小表示的机制)、JDK 与硬件缓存行都可能改变结论。
6. 如何验证
性能测试要回答“在这组负载下是否更合适”,正确性测试则要回答“并发交错时是否仍满足要求”,两者不能互相替代。
- 使用 JMH(Java 微基准测试工具)比较 1、2、核心数及超额线程下的吞吐和 CPU;吞吐指单位时间完成的操作数,超额线程指线程数超过可用核心数;
- 分开测试写多读少、频繁读取和低竞争场景,明确线程是否共享同一个计数器;
- 比较单个计数器时,避免把多个待测计数器放在同一基准对象中引入额外伪共享;专门研究布局影响时,再设置多个相邻计数器的对照组;
- 用 profiler(性能分析工具)观察原子更新热点,但不要从一次微基准直接外推整条业务链路;
- 正确性验证仍使用不变量(必须始终成立的约束)或 JCStress(Java 并发测试工具),方法见 A - Java 并发代码测试方法。
基准至少应包含四组负载:单线程更新、多个线程更新、更新与高频 sum() 并存、多个相邻计数器同时更新。否则可能只证明“分段写入快”,却没有测到真实系统中的读取成本和对象布局干扰。
记录结果时,应保留 JDK、CPU 型号、NUMA/容器 CPU 配额和实际线程数,并说明预热、重复次数、测量方法和波动。JMH 的 fork 指独立启动的 JVM 测试进程;NUMA 指不同处理器访问不同内存区域的成本可能不同的硬件架构,容器 CPU 配额则限制实际可用的 CPU 资源。这些条件都有助于解释不同 fork 或机器之间的差异。
伪共享是硬件级现象,看到某个 Java 方法占用 CPU 较多,还不足以确定原因;需要结合实际对象布局、访问模式及缓存一致性相关证据判断。以上是验证建议,不是本文已经执行的实验或测量记录。
7. 总结
LongAdder 通过分散写热点提升高竞争统计的可扩展性,代价是快照不精确和额外空间。
- 精确状态转换使用可线性化的原子变量或锁。
- 高频指标累加可评估
LongAdder,但必须基准验证。 - 伪共享需要布局和硬件证据,不能靠源码猜测。