外观
29 - 数据库写成功但消息没发出去:Transactional Outbox 与 CDC
摘要
订单已经写入数据库,通知库存服务的消息却还没发出,此时进程崩溃,库存服务就不知道这笔订单存在。把顺序改成先发消息也有问题:消费者可能已经处理消息,订单事务却最终回滚。
Transactional Outbox(事务发件箱)的做法是:先把业务数据和“需要发送的事件”一起写入同一个数据库事务,再由后台流程转发到消息队列(MQ)。这样,进程重启后仍能找到待发事件。它把可靠发布拆成了两部分:本地事务负责一起保存,后台流程负责重试发送;消费者还需处理重复消息。
1. 双写困境
text
写数据库 → 发消息:数据库成功后可能崩溃,消息丢失
发消息 → 写数据库:消费者可能先执行,而数据库最终失败这里的“双写”是指一次业务操作既要写数据库,又要向消息队列发送消息。普通本地事务只覆盖数据库内的修改,不能让这两个独立资源一起提交或一起回滚,也就是不能保证二者的原子性。
因此,仅交换顺序无法消除故障窗口。即使把发送放在数据库提交后的回调里,进程仍可能在提交后、回调执行前崩溃。需要先持久化发送意图,而不是只在内存里记住“稍后发消息”。
2. Outbox 模式
Outbox 是一张保存待发事件的表。创建订单时,在同一个本地事务中插入订单行和事件行:事务成功,两行一起提交;事务失败,两行一起回滚。
下面是事务结构示意,需预先建立 orders、outbox 表,并由数据库驱动绑定 ? 参数;它不是可直接执行的完整脚本。事务语法和表定义需适配所用数据库。
sql
BEGIN;
INSERT INTO orders(id, status) VALUES (?, 'CREATED');
INSERT INTO outbox(event_id, aggregate_id, event_type, payload, status)
VALUES (?, ?, 'OrderCreated', ?, 'NEW');
COMMIT;示例字段含义如下:
event_id:事件的唯一标识,用于识别同一事件的重发。aggregate_id:事件所属业务对象的标识,这里是订单 ID。event_type:事件类型,OrderCreated表示订单已创建。payload:消息内容,只携带下游处理所需的数据。status:轮询发布流程的状态,NEW表示待发,SENT表示已确认发送。
预期结果是:提交成功后,订单和待发事件同时存在;后续发送失败不会撤销订单,但事件记录可以供发布器重试。这个保证要求两次插入确实参与同一个数据库事务,不能分别提交。
转发有两种常见方式:后台发布器轮询 NEW 事件,发送到 MQ,收到成功确认后标记 SENT;或者通过 CDC(Change Data Capture,变更数据捕获)读取数据库事务日志,把已提交的 Outbox 变更转换为消息。两者都是在本地事务提交后异步转发,因此下游看到业务结果会有延迟。
3. 为什么仍会重复
轮询发布器仍然需要先发送消息,再记录发送结果。这两步之间也有故障窗口:
text
读取 NEW 事件 → MQ 接收消息 → 发布器崩溃 → 尚未标记 SENT
重启后读取同一 NEW 事件 → 再次发送如果反过来先标记 SENT,再发送,进程在发送前崩溃就会漏发。发送超时也不代表 MQ 没有接收消息,重试同样可能产生重复。因此,保留待发记录并重试,是用可能重复来避免因结果不明而放弃发送。
消费者需要实现幂等:同一事件处理多次,业务效果与处理一次相同。例如按 event_id 记录已处理事件;如果去重记录和业务修改都在消费者的同一个数据库内,应将二者放入同一事务,避免“已记为处理成功、业务却没完成”,或“业务已完成、去重记录却没保存”。涉及外部调用时,还需要对方支持幂等键或设计可恢复流程。
Outbox 让已提交的业务事件有据可查、可以重试,并不无条件保证永不丢失。可靠发布仍依赖记录持久化、MQ 的确认与持久化机制、持续重试,以及未确认事件不被提前清理。重复投递也不等于顺序保证,需要按业务要求另外设计事件顺序约束。
4. 轮询与 CDC
轮询是定期查询待发记录。它容易从普通数据库查询开始实现,但扫描越频繁,查询开销越大;扫描间隔越长,消息等待时间通常越长。需要围绕待发条件设计索引、限制每批数量,并处理多个发布器的锁竞争。
多个发布器可借助 FOR UPDATE SKIP LOCKED 等能力并行领取:在相应事务和锁语义下,跳过已被其他事务锁定的记录。语法、支持范围和行为需按数据库版本验证。行锁在事务结束后释放,不能单靠它表示长期任务所有权;若领取后提交事务再发送,还需持久化领取状态,并设计超时接管,避免领取者崩溃后任务无人处理。
基于日志的 CDC 不再反复查询 NEW 记录,而是由连接器读取数据库事务日志中的变更。连接器是负责读取、转换和转发的组件;它保存的消费位点表示已经读到日志的哪个位置,故障后据此继续。
CDC 减少业务表轮询,但增加了日志保留、Schema(表结构及字段定义)变更、断点恢复和连接器运维的要求。数据库日志提供变更事实,连接器状态也必须备份和监控。如果连接器停机时间超过日志保留窗口,恢复时所需日志可能已被清理;表结构变化也可能使旧的消息转换逻辑无法工作。恢复与重建方式需按具体数据库和连接器设计。
CDC 并不会自动消除重复:转发消息与保存消费位点之间的故障恢复行为取决于连接器实现,消费者仍应具备幂等能力。采用 CDC 时,不能直接把轮询方案的 SENT 字段当作发送确认;应依据连接器的转发进度和恢复机制判断哪些事件可以清理。两种方式都应监控积压和失败,才能及时发现发布流程已经停滞。
5. 清理策略
Outbox 会随业务写入持续增长,需要按发送时间分区、归档或批量删除,并保留足够的审计和重放窗口。重放是把历史事件再次投递,用于恢复或重新处理,因此历史记录的保留时长要覆盖实际恢复需求。
清理前应先确认事件已经越过所用发布流程的安全进度:轮询方式检查发送状态,CDC 方式结合连接器进度及恢复要求判断。仅看创建时间不够,旧事件可能仍因发送失败而积压。清理必须避免让尚未确认的事件消失,并控制批量和执行时机,避免锁、I/O 等开销阻塞业务主表操作。
6. 容易踩的坑
- 业务写与 Outbox 插入分别提交。 两者之间仍可能崩溃,重新出现业务成功却没有事件的问题。
- 把发送成功等同于只发送一次。 发布确认或进度保存前的崩溃,仍可能触发重发。
- 多个发布器没有领取和恢复机制。 正常运行时会重复并发发送,领取者崩溃后也可能留下无人接管的任务。
payload直接复制完整敏感实体。 下游可能收到不需要的敏感字段,应按事件用途选择数据。- 清理只看创建时间。 长时间积压的未确认事件可能被删除,失去重试依据。
- CDC 表结构变更未做兼容测试。 数据库写入正常,不代表连接器还能正确转换和转发事件。
7. 总结
Outbox 把跨数据库与 MQ 的双写,转换成一次本地事务加一个可重试发布流程。
- 业务数据与事件记录必须同事务提交。
- 保留未确认事件并持续重试,消费者按事件标识实现幂等。
- 根据数据库与连接器能力选择轮询或 CDC,落实进度恢复、监控和安全清理。
下一篇:Redis 分布式锁真的安全吗:租约、续期与 Fencing Token。