外观
31 - ZooKeeper 为什么适合协调:临时节点、Watch 与顺序节点
摘要
多个服务实例共同执行任务时,需要知道哪些实例仍在参与、谁负责当前任务,以及其他实例何时可以接手。ZooKeeper 适合保存这类规模较小的协调信息,而不是存放大块业务数据。
理解它的基本模型,可以从三个问题入手:用节点记录参与者,用会话管理参与资格,用变化通知提示客户端重新检查状态。再加上顺序节点提供的排队顺序,就能构建服务注册、选主和锁。这里的选主是应用实例之间选出负责人,不是 ZooKeeper 集群内部的选主。
1. 数据模型
ZooKeeper 维护一棵类似目录树的结构,其中每个数据节点称为 ZNode。客户端通过路径访问节点,例如 /services/order/instance-a。节点保存少量数据和版本信息:数据可以表达实例地址或任务归属,版本信息用于区分节点状态的变化。这些用于描述系统状态的数据称为元数据。
理解常用节点时,要分清生命周期与命名方式:
- 持久节点:不会仅因为创建它的客户端会话结束而自动删除,适合保存需要持续存在的协调路径。
- 临时节点:与创建它的 Session(会话)绑定,会话失效后由服务端删除,适合表达某个参与者的当前资格。
- 顺序节点:创建时在路径末尾附加序号,用于在同一父路径下排列竞争者。顺序属性可与临时属性组合,形成临时顺序节点。
例如,服务实例用临时节点登记自己,其他客户端读取这些节点来发现参与者;实例的会话过期后,登记会被清理。但节点仍存在只说明会话尚未被判定失效,不能据此保证业务线程健康或一定能处理请求。
具体节点类型和 API 随 ZooKeeper 版本演进,使用前应核对部署版本。
2. Session 不是 TCP 连接
TCP 连接是客户端与某台 ZooKeeper 服务端之间的通信通道;Session 是客户端在 ZooKeeper 中的会话身份。连接中断不等于会话立即结束,否则一次短暂网络抖动就会删除临时节点,让其他实例误以为必须接管。
Session Timeout 是会话超时时间。连接断开后,只要会话尚未过期,客户端可以在该超时窗口内重连其他服务端并继续使用原会话,临时节点不会因断连立即删除。因超时清理临时节点,要等服务端判定 Session 已过期;客户端主动删除节点或关闭会话属于另外的生命周期操作。
网络隔离时,服务端和客户端对状态的认识可能不同:服务端已判定会话过期并删除节点,客户端却未必能立刻得知。此时其他实例可能已经接管,而旧实例仍在运行。因此,会话管理能清理协调记录,却不能自动停止旧实例的业务代码。后文的 Fencing 用于处理旧负责人继续写入外部资源的问题。
3. Watch 是变化通知,不是消息队列
Watch 是客户端对节点变化注册的关注:关注的状态发生变化时,ZooKeeper 向客户端发送通知。它的作用是提示“需要重新检查状态”,不是把全部变化作为消息逐条交给业务处理。
使用传统的一次性 Watch 时,客户端读取状态并注册关注,收到通知后再读取当前状态、重新注册关注,然后依据读取结果作决定。重新注册是为了继续关注后续变化;重新读取是因为通知本身不足以判断此刻是否满足业务条件。较新版本提供持久 Watch 能力,但具体 API 和行为需按部署版本确认,不能直接套用一次性 Watch 的重新注册方式。
不要依赖每次中间变化都能收到通知。例如,收到通知后再读取时,节点可能已经经历了多次变化;客户端应处理读到的当前状态,而不是推测每一步变化。如果业务需要逐条消费事件并保留历史,就不能把 Watch 当作可靠消息队列。
4. 顺序节点实现锁
锁的基本思路是让所有竞争者在同一父路径下排队。每个客户端先创建自己的临时顺序节点,再读取竞争者列表并比较序号。下面的路径仅示意排序关系,不表示真实 API 的序号格式:
text
/locks/task/lock-00000001
/locks/task/lock-00000002
/locks/task/lock-00000003在参与者都遵守同一协议的前提下,序号最小的客户端获得锁,其他客户端等待。临时属性使会话过期后的竞争者节点能够被清理,顺序属性则决定接下来谁有资格竞争。
等待者只监听自己的前驱节点,即序号比自己小、且最接近自己的那个节点。在上述示例中,02 等待 01 删除,03 等待 02 删除。若所有等待者都监听最小节点,该节点一删除,所有人都会醒来并争抢,这就是惊群。监听前驱使正常交接时只有紧邻的后继竞争者收到该删除通知,减少无效唤醒。
以下为流程伪代码,不是可直接运行的 Java 程序;其中的函数代表客户端需要实现的操作:
java
// 伪代码,真实实现建议使用成熟客户端库并处理连接状态。
myNode = createEphemeralSequential("/locks/task/lock-");
while (!isSmallest(myNode)) {
String predecessor = predecessorOf(myNode);
watchDeletion(predecessor);
awaitNotificationThenRecheck();
}预期流程是:序号最小时退出等待循环并进入受保护操作;否则等待前驱变化,再重新检查竞争者列表。收到通知不能直接等同于获得锁。
真实实现还必须处理“找到前驱”与“注册监听”之间的竞态:前驱可能在这段时间内已经删除。如果注册关注时发现前驱不存在,应立即重新检查,而不是等待一个已经发生的删除事件。通知等待也要避免丢失已到达的信号。此外,连接状态变化、会话过期和操作失败都需要处理;会话过期后不能继续把原节点当作持锁依据。伪代码只展示排队关系,生产实现宜使用成熟客户端库。正常释放锁需要删除自己的节点,业务代码仍应安排好释放与异常处理。
5. 选主与 Fencing
把“最小序号者获得锁”换成“最小序号者担任负责人”,临时顺序节点也可用于选出应用的 Leader。Leader 是当前被选出的负责人,其他实例等待资格变化后重新竞选。
问题在于,旧 Leader 失去会话后不一定立即停止。例如,A 因网络隔离失去会话,节点被删除,B 接管;A 仍可能向业务数据库提交请求。ZooKeeper 中的负责人记录已经改变,数据库却未必知道 A 已经过时。这与上一章租约过期后旧持有者继续执行的风险相通。
Fencing Token 是随写请求传递、用于比较负责人新旧的递增编号。资源端记录已接受的最大编号,并将编号校验与业务修改作为一个原子操作执行,从而拒绝比已接受编号更小的请求。只在应用端检查一次 Leader 身份不够,因为检查与实际写入之间仍可能失去资格。
Token 可以考虑使用 Epoch/Zxid 派生的任期编号,或由独立机制提供。Epoch 表示区分领导时期的编号,Zxid 是 ZooKeeper 用于标识事务顺序的事务 ID;二者不能只凭名称就当作应用的 Fencing Token。具体方案必须保证编号与本次领导资格关联,在接管和故障恢复后仍能正确比较新旧,并且所有受保护的写入都经过资源端校验。资源端尚未接受更大编号时,也不能仅凭已有编号判断某请求的会话是否已过期。
6. 容易踩的坑
- 用 ZNode 存放大量业务数据:应让节点表达协调状态,把业务内容放在合适的存储系统中。
- 所有锁等待者监听同一节点:一次删除会唤醒大量竞争者,增加无效请求。
- 收到 Watch 就直接执行:通知只是检查状态的入口,不能代替资格判断。
- 把断连等同于会话过期:应分别处理暂时失联与资格已失效,不能仅凭连接状态推断节点已删除。
- ACL 使用开放默认值:ACL(访问控制列表)定义谁能访问或修改节点;敏感协调数据需要按实际客户端配置权限隔离。
- 在回调线程执行耗时业务:可能阻塞后续事件处理,应将耗时操作交给业务执行线程,并处理通知与业务状态之间的同步。
7. 总结
ZooKeeper 用节点记录协调状态,用 Session 管理参与资格,用 Watch 提示状态变化,再用顺序节点安排竞争顺序。 这些协调原语是构建注册、选主与锁的基础;外部资源是否接受旧持有者的请求,仍需要业务协议和资源端约束。
- 临时节点绑定 Session,断开连接不等于立即删除。
- Watch 是重新读取状态的提示,不能当可靠事件流。
- 顺序节点监听前驱可减少锁竞争惊群,外部资源仍需通过 Fencing 等约束防止旧 Leader 覆盖较新的写入。
下一篇:Raft 不只是“选举算法”:日志复制与多数派提交。