外观
08 - ConcurrentHashMap 与并发容器
适用 JDK:以 JDK 8+ 实现为主;JDK 7 的 Segment 结构仅用于版本对比。
摘要
使用了 ConcurrentHashMap,缓存为什么还会重复加载?关键在于分清三层状态:Map 中键(Key)到值(Value)的映射、值对象内部的状态,以及查库等外部业务动作。并发容器保护它承诺的映射操作,不会自动把这三层合成一个不可分割的业务流程。
本文先用缓存反例解释这条边界,再介绍内部结构、原子复合 API 和其他容器的选择。Java 代码均为教学片段,未编译运行;cache、map、key、加载函数等需由调用方定义,集合类需导入相应的 java.util 或 java.util.concurrent 类型。
1. 反例:先检查再写入
java
if (!cache.containsKey(key)) {
cache.put(key, loadFromDatabase(key));
}containsKey() 和 put() 分别是线程安全的,但两次调用组合后不原子。这里的“原子”指检查与更新作为不可分割的操作生效,其他线程不能插入两步之间改变检查所依据的状态。
例如,线程 A 检查到键不存在,还没写入;线程 B 此时也检查到不存在。两者随后都会查库并调用 put()。Map 的内部结构仍然正确,业务却发生了重复加载。对于“键不存在时才计算并写入”,应使用容器提供的复合操作:
java
Value value = cache.computeIfAbsent(key, this::loadFromDatabase);computeIfAbsent() 在键已有值时返回该值;缺少映射时,调用映射函数(本例的 loadFromDatabase)计算候选值,并在结果非 null 时建立映射。这次针对单个键的条件计算由容器保证原子性,调用方不再拆成先检查、再写入两步。
映射函数应尽量短小,不应递归修改同一 Map,也不要执行无超时的慢 I/O(输入输出操作,例如数据库或网络访问)。计算期间,其他更新可能等待;加载越慢,等待越容易累积。因此上面的查库写法展示的是 API 用法,是否适合实际加载链路还要看下游耗时和容量。
还要明确以下边界:
- 映射函数返回
null时不建立映射,后续调用可能再次计算。 - 映射函数抛异常时不建立映射,重试时可能重复执行外部副作用。
- 它不保证某个键在整个生命周期中只加载一次;映射被删除后,后续调用也可能重新计算。
- 对同一 Key 的原子计算不等于一个完整的“分布式 single-flight”。single-flight 指让同一键的并发请求共享一次在途加载;多 JVM 实例拥有各自的 Map,仍会各自加载。
如果加载需要访问慢下游,应同时设计超时、并发上限、失败缓存或请求合并。失败缓存是短时间保留失败结果以减少立即重试;请求合并是让重叠请求共享加载任务。这些策略保护下游容量,Map 的原子操作本身不能替代它们。
2. JDK 8+ 的基本结构
先把哈希表理解为“数组加桶”:键的哈希值用于定位数组中的桶,不同键可能落在同一个桶中,这称为哈希冲突。桶内需要保存并区分这些键,才能找到正确的映射。
JDK 7 主要使用 Segment 分段锁,即把数据划分成多个段,由各段的锁保护更新。JDK 8+ 不再以 Segment 为主结构,而是在数组的桶内使用链表或红黑树保存节点。链表沿节点逐个查找,红黑树是保持平衡的搜索树;是否树化受实现条件约束,并非出现冲突就立即变成树。
更新时,空桶首次插入可用 CAS(Compare-And-Set,比较并设置):只有桶仍处于预期状态时才提交插入。冲突桶的更新仍可能对节点加锁,扩容也需要多线程协作。这种设计允许不同桶的更新有机会并行,但不意味着“完全无锁”,也不意味着不同键永远不会竞争。
实现细节会随 JDK 更新演进,业务正确性只应依赖公开 API 契约,不能依赖某个版本的桶锁对象、树化阈值或扩容内部流程。
2.1 为什么读操作通常不加互斥锁
读操作不获取桶锁,仍需要解决“其他线程能否看见已写入的数据”。实现通过节点引用和关键字段的可见性规则发布结构,使读线程能遍历已发布的节点。这里的“发布”是让其他线程能够按并发规则访问初始化后的数据,不是把数据对外发送。
可见性不等于全局时点快照。读取一个键与随后读取另一个键之间,其他线程仍可能更新 Map;多次读取不会自动固定在同一个时刻,更不能据此获得整张 Map 的事务隔离。
3. 原子复合 API
下面各行是独立的 API 用法,不是一段应按顺序执行的业务流程:
java
map.putIfAbsent(key, value);
map.computeIfAbsent(key, loader);
map.computeIfPresent(key, (k, old) -> update(old));
map.compute(key, (k, old) -> calculate(old));
map.merge(key, delta, Integer::sum);
map.replace(key, expected, replacement);
map.remove(key, expectedValue);| API | 合并到一次原子操作中的逻辑 |
|---|---|
putIfAbsent | 仅在键不存在时写入已准备好的值 |
computeIfAbsent | 仅在键不存在时调用函数计算值 |
computeIfPresent | 仅在键已有值时按旧值计算更新 |
compute | 无论键是否存在,都根据当前映射计算结果 |
merge | 键不存在时使用给定值,否则合并旧值与给定值 |
replace(key, expected, replacement) | 仅在当前值与预期值相等时替换 |
remove(key, expectedValue) | 仅在当前值与预期值相等时删除 |
putIfAbsent(key, value) 的 value 在调用前就已准备好;把慢加载写在参数表达式中,不能避免参数求值时的重复加载。需要按条件计算时,应区分它与 computeIfAbsent。
单个键的条件更新优先使用这些 API。若业务必须同时更新多个键,则仍需另行设计一致性协议;外部锁只有在所有相关访问都遵守同一协议时才能保护该流程,随意加一把锁无法约束其他直接操作 Map 的代码。
4. 弱一致性迭代
迭代就是逐项遍历容器。ConcurrentHashMap 的迭代具有弱一致性:遍历可以与更新同时进行,可能观察到部分新值、部分旧值,但不会破坏容器内部结构。
ArrayList 的 fail-fast(快速失败)迭代器会尽力检测结构修改并抛出异常,帮助发现错误用法。它不是并发安全保证,也不能保证每次竞争都被检测出来。
需要精确时点快照,即所有条目对应同一个时刻的状态时,应先通过停止写入或更高层的一致性协议建立稳定的读取边界,再复制数据。在持续写入时仅复制 Map,仍可能得到新旧状态混合的结果。
size()、isEmpty() 和聚合操作在持续并发更新时更适合监控和估算,不应用来实现“数量小于 N 才允许写入”的精确不变量(必须始终成立的业务约束)。即使一次读数恰好准确,从读取数量到执行写入之间也存在并发窗口,多个线程可能同时判断还有容量。
5. 其他并发容器怎么选
先明确需要保存的是键值映射、列表还是待处理队列,再判断是否需要顺序、容量上限和阻塞等待。FIFO(First In, First Out)指先进先出;有界队列有明确容量上限,背压则是让生产方在消费者跟不上时等待、减速或处理提交失败。
| 容器 | 适合场景 | 主要风险 |
|---|---|---|
CopyOnWriteArrayList | 读多写极少、列表较小 | 每次写入复制数组,内存和写放大 |
ConcurrentLinkedQueue | 非阻塞 FIFO 队列 | size() 可能是 O(n),不宜用于高频控制 |
ArrayBlockingQueue | 有界队列、背压 | 容量需要压测和告警 |
LinkedBlockingQueue | 可选有界、吞吐较高 | 无参构造的容量非常大,易堆积 |
ConcurrentSkipListMap | 需要有序键与范围查询 | 常数开销通常高于哈希表 |
CopyOnWriteArrayList 通过在写入时复制数组,让读者继续读取原数组;“写放大”指一次逻辑修改需要复制更多数据,因此列表越大、写入越频繁,代价越值得关注。ConcurrentLinkedQueue 的非阻塞操作不会像阻塞队列的 take() 那样等待元素到来;其 size() 需要遍历节点,O(n) 表示成本随元素数量增长。
阻塞队列是否让生产者等待,还取决于使用的 API:例如有界队列满时,put() 等待空间,offer() 可以立即返回失败。容量只是保护条件,调用方仍需处理等待、超时或失败。表中的吞吐与开销比较是选型线索,不能代替目标负载下的测量。
6. Value 对象仍可能不安全
java
ConcurrentHashMap<String, ArrayList<String>> map = new ConcurrentHashMap<>();
map.computeIfAbsent("users", k -> new ArrayList<>()).add("alice");computeIfAbsent() 保护的是“找到或创建这个列表并建立映射”。方法返回后,.add("alice") 修改的是列表内部状态,已不在 Map 的原子操作内。多个线程拿到同一个 ArrayList 后同时调用 add(),仍存在竞争。
可以换用线程安全的 Value;若需要一次提交完整的列表状态,也可以在 compute() 中复制旧列表、修改副本,再返回新的不可变列表。下面是独立的更新片段:这里的 map 应声明为 ConcurrentHashMap<String, List<String>>,不能沿用上例要求 Value 必须为 ArrayList<String> 的声明。
java
map.compute("users", (key, oldValue) -> {
List<String> next = oldValue == null
? new ArrayList<>()
: new ArrayList<>(oldValue);
next.add("alice");
return List.copyOf(next); // JDK 10+
});读者继续持有旧列表,更新者只修改新副本,最后由 compute() 替换映射。这个方案要求所有相关写入都遵守同一协议,并且复制期间旧列表不被其他路径修改;不能一边直接修改旧列表,一边期待复制解决竞争。此处元素是 String,列表不可修改也不意味着一般情况下列表中的可变元素会自动变得线程安全。
如果需要兼容 JDK 8,可返回 Collections.unmodifiableList(next),但它只是对原列表的不可修改视图,要确保 next 不再被其他代码持有并修改。
7. 验证与排障
以下是建议执行的验证,不是本文已有的实测记录。热 Key 指访问高度集中在同一个键;它会让该键的加载等待更容易暴露:
- 用 A - Java 并发代码测试方法的同步起点同时触发同 Key 和不同 Key 更新。
- 对映射函数注入超时、异常和返回
null,验证重试及副作用。超时需由加载链路实现,Map 不会自动为映射函数设置超时。 - 观测加载次数、同 Key 等待时间、命中率和下游调用量。
- 如果热 Key 导致慢加载集中,继续阅读 分布式 18 - 缓存穿透、击穿与雪崩。
8. 容易踩的坑
审查代码时,可以把前面的边界转成几个问题:
- 检查与更新是否合在同一个原子 API 中?是否把
size()读数当成严格容量条件? - 映射函数是否有超时和容量保护?失败、返回
null或删除映射后重试,是否会重复外部副作用? - Value 是否仍会被调用方直接修改?所有写入是否遵守同一更新协议?
- 业务是否需要精确快照,却使用了并发遍历或持续写入期间的复制结果?
- 列表规模和写入频率是否适合
CopyOnWriteArrayList?
9. 总结
并发容器的安全边界是它承诺的单次或复合 API,不会自动扩展到整个业务流程。
- 优先使用
compute、merge、putIfAbsent等原子 API。 - 弱一致迭代不是精确快照。
- 容器安全不代表 Value 对象安全。
延伸阅读:30 - 单机请求合并与 SingleFlight使用原子映射管理同 Key 在途任务;23 - ConcurrentLinkedQueue 与无锁队列解释非阻塞 FIFO 的能力边界。