外观
29 - 按 Key 串行化与分段并发
适用 JDK:JDK 8+。本文讨论单 JVM 内协调;多实例场景必须结合数据库、消息分区或分布式协调。
摘要
假设多个请求要修改订单:同一订单的修改需要协调,不同订单的修改通常可以并行。所有订单共用一把锁,会让互不相关的请求也相互等待;为每个订单永久保存一把锁,又会在订单数量持续增长时不断占用内存。
按 Key 串行化用业务标识划分协调范围。Key 可以是订单 ID 或账户 ID:同 Key 的操作不能同时修改受保护状态,不同 Key 的操作则尽量并行。本文介绍两种基本模型:请求线程获取对应的锁后执行,或把任务交给对应的单线程执行器逐条处理,再讨论多 Key 操作、资源回收和扩容。
先区分两种要求:互斥只保证同一时刻最多一个操作进入受保护代码;顺序还要求这些操作按指定次序执行。锁本身不保证业务请求的先后顺序,队列也只能在规定的入队和执行协议下提供顺序。业务若依赖版本或序列号,仍需明确自己的顺序规则。
1. 固定条带锁
条带(stripe)是一组预先创建的锁中的一个位置。固定条带锁先创建有限数量的锁,再根据 Key 的哈希值选择其中一把。哈希值是用于映射的整数;这里的路由就是从 Key 找到条带的过程。
一次受保护操作分三步:先找到锁,再加锁并执行状态变更,最后在 finally 中释放锁。所有访问同一受保护状态的调用点必须使用同一套条带和 Key 规则,否则各自加锁也无法协调。
下面是 JDK 8+ 的局部实现,只展示锁的创建和选择,省略了导入与调用方的加锁、释放逻辑。它使用 java.util.concurrent.locks.ReentrantLock 和 java.util.stream.IntStream,要求 count > 0 且 Key 非空:
java
final class StripedLocks {
private final ReentrantLock[] stripes;
StripedLocks(int count) {
stripes = IntStream.range(0, count)
.mapToObj(i -> new ReentrantLock())
.toArray(ReentrantLock[]::new);
}
ReentrantLock lockFor(Object key) {
int hash = key.hashCode();
int index = (hash & 0x7fffffff) % stripes.length;
return stripes[index];
}
}同 Key 会选中同一把锁,因此能实现互斥。不同 Key 也可能选中同一把锁,这称为条带映射碰撞:这些操作虽然没有业务关联,仍需等待同一把锁。固定条带以这种额外等待换取简单实现和有界的锁内存;只有映射到不同条带的操作才有机会并行。
hash & 0x7fffffff 清除符号位,在条带数量为正时可得到合法索引;即使哈希值为 Integer.MIN_VALUE,结果也非负。生产代码还应考虑哈希扩散,即混合哈希值的位以改善分布,以及空 Key 的处理策略。这里没有给出哈希分布或性能测量。
Key 的 hashCode() 必须在任务生命周期内稳定。若直接使用可变对象,参与哈希计算的字段变化后,同一业务实体可能被路由到另一条带,两个操作便能分别持有不同锁,破坏互斥。通常应提取不可变 ID,并在所有调用点使用同一规范化规则,避免同一实体因不同表示而选中不同锁。
2. 多 Key 操作必须规定顺序
转账同时涉及两个账户,需要协调两份状态。若线程 A 持有账户 1 的锁后等待账户 2,而线程 B 持有账户 2 的锁后等待账户 1,两者都不释放已有锁,也都无法继续,这就是死锁。
固定条带下,应按条带编号规定所有调用点共同遵守的顺序,而不是只按某个调用方传入 Key 的顺序加锁:
- 计算所有 Key 对应的条带编号。
- 去重,并按编号升序加锁。
- 完成操作后,按相反顺序释放。
- 任何一步失败,都释放此前已获得的锁。
统一顺序使线程不会形成“各持有一把锁,再相互等待另一把”的环。两个不同 Key 映射到同一条带时,只获取该条带一次,并与释放动作一一对应。锁顺序的通用排查见 05 - Java 死锁的定位与消除。
3. 动态 Key 锁的生命周期陷阱
另一种做法是在 Map 中为每个 Key 按需创建锁,避免不同 Key 因条带碰撞而共用锁。下面是局部片段,省略了导入、Key 来源和加锁逻辑:
java
ConcurrentHashMap<String, ReentrantLock> locks = new ConcurrentHashMap<>();
ReentrantLock lock = locks.computeIfAbsent(key, k -> new ReentrantLock());如果 Key 持续增长且条目不回收,这张 Map 也会持续增长。但在 unlock() 后简单调用 remove(key, lock),又可能产生竞态:正确性取决于多个线程恰好如何交错执行。例如:
- 线程 A 持有旧锁;线程 B 从 Map 取得同一把旧锁的引用,但尚未加锁。
- A 释放旧锁并删除对应条目。
- 线程 C 查询同 Key,发现条目不存在,于是创建并获取新锁。
- B 获取仍被自己引用的旧锁。此时 B 和 C 持有不同锁,可能同时进入同 Key 的临界区,即本应受互斥保护的代码段。
remove(key, lock) 能避免误删已替换的条目,却不能让 B 手中的旧引用失效。动态锁回收因此必须覆盖“已取得引用但尚未持锁”的窗口,不能只检查当前是否有人持锁。
可采用引用计数、租借协议或成熟实现。引用计数记录仍在使用或准备使用该条目的调用数;租借协议规定取得使用资格、归还资格和回收的时机。它们都需要把取得引用与回收协调起来,不能只是给锁附加一个计数器。无法证明回收期间同 Key 仍共享同一把锁时,固定条带通常更安全。
4. 按 Key 串行执行器
锁模型由请求线程执行操作;执行器模型则把操作交给固定的执行线程。将任务按 Key 路由到若干分片,每个分片由一个单线程执行器逐条处理,就能让同 Key 任务共用同一执行通道。这个模型可结合 28 - 单写者模型与消息传递理解。
下面是路由伪代码,不是完整的 Java 实现。N 是正的分片数量,spread 表示哈希扩散;实际实现还需把结果转换为合法的非负索引:
text
stripe = spread(hash(key)) % N
executor[stripe].execute(task)在队列按 FIFO(先进先出)取出任务、单线程逐条完成受保护操作且不绕过分片执行的前提下,可以保留同分片任务的入队顺序。多个调用方并发提交时,先发起请求不一定先入队,因此这仍不等于业务上的全局先后顺序。任务若启动异步操作后立即返回,也不能仅凭执行器单线程就认为异步状态变更不会重叠。
调用方不必在业务操作期间持锁,但等待转移到了队列中。某个 Key 的任务处理很慢,会阻塞同分片中其他 Key 的任务。每个分片仍需有界队列、拒绝策略、任务 **Deadline(截止时间)**和关闭协议:队列限制积压,拒绝策略规定满载时如何处理,截止时间规定何时不再继续等待或执行,关闭协议规定如何停止接收并处理剩余任务。
如果必须保证严格的同 Key 顺序,任务失败、拒绝或超时后是否允许后续任务继续,应由业务状态机定义。状态机把业务处理划分为状态,并规定允许的转换;例如前一步失败后,后一步是否仍有有效的执行前提,不能由队列替业务决定。
拒绝意味着本次提交未被正常接收进分片执行流程。若拒绝策略或调用方绕过分片直接执行任务,就可能与该分片中的同 Key 任务同时运行,破坏串行保证。应让请求失败、采取不绕过状态协调的降级方式,或进入另一个同样保持顺序的持久通道;切换通道时也必须协调旧任务与新任务的先后关系。
同一分片任务若同步等待随后提交到该分片的另一个任务,会形成线程饥饿死锁:唯一的执行线程被等待占住,后续任务无法运行,而当前任务又必须等后续任务完成。可重入锁允许同一线程再次获取自己持有的锁,不代表单线程执行器能够在同步等待时继续处理自己的后续任务。
5. 热 Key 与扩容
热 Key是请求量或处理负载明显集中的业务标识。增加条带可以减少不同 Key 共用条带带来的等待,却不能拆分一个必须串行处理的 Key。对这样的 Key,一次操作占用串行通道越久,单位时间内能完成的操作就越少;增加其他条带并不会缩短这段处理时间。
运行时改变条带数量会改变 Key 路由。如果旧任务仍在旧分片执行,新任务已经进入新分片,同 Key 就可能并发执行。固定锁条带替换数组时也有同类问题:旧调用持有旧锁,新调用取得新锁,两把锁无法相互排斥。
扩容需要迁移屏障、版本化路由或停写窗口,不能直接替换数组。迁移屏障要求旧路由上的相关任务完成后再放行新路由;版本化路由区分新旧映射,但仍需协调切换期间的任务;停写窗口则暂停接收相关写入,等待旧任务结束后再切换。核心要求是切换前后同 Key 的受保护操作不能重叠。
跨 JVM 的热 Key 还需结合消息分区、数据库行锁或业务拆分,参见 分布式 19 - Redis 热 Key 与大 Key。本地条带只能协调使用它的 JVM 内调用,不能协调其他实例中的执行线程。
6. 观测与验证
先判断等待来自单个热 Key,还是多个 Key 被分到同一条带,再检查失败和路由切换时是否仍满足协调规则。以下是观测与测试建议,本文未执行这些测试,也未提供实测记录:
- 记录每个条带的等待时间和最热 Key;执行器分片还应记录队列长度,区分等待锁与等待任务执行。
- 指标标签避免直接使用所有业务 Key。高基数指标签取值过多,会产生大量指标序列;可记录 Top N(最热的若干 Key)或采用采样。
- 使用倾斜流量压测,即让部分 Key 承担更多请求,避免均匀随机 Key 掩盖热点。
- 验证同 Key 操作不重叠;有顺序协议时验证其顺序,同时检查不同条带能否并行、多 Key 操作有无死锁。
- 在扩容、取消和拒绝期间验证路由不变量,即这些过程也必须保持的规则:同 Key 的受保护操作仍由同一协调协议串行处理。
- 修改可变 Key 字段,确认生产代码实际使用的是稳定业务 ID。
- 构造任务在同分片内递归提交并等待的场景,验证能够快速拒绝或避免自等待。
7. 总结
按 Key 划分协调范围,可以让互不相关的状态变更并行处理。选择实现时,应先确定业务需要互斥还是严格顺序,再检查热点、资源生命周期和路由切换是否会破坏这一要求。
- 固定条带以有限碰撞换取有界的锁内存;所有调用点必须使用稳定 Key 和统一路由。
- 多 Key 操作必须按稳定顺序获取去重后的条带;单线程分片也要避免同步等待自己的后续任务。
- 动态锁删除和在线扩容都存在破坏同 Key 互斥的窗口,拒绝、超时和关闭则需要明确的任务处理协议。