外观
16 - 加了 Redis,接口为什么反而更不稳定:缓存读写的完整链路
摘要
缓存命中时可以很快返回,为什么 Redis 抖动时,接口反而可能比直连数据库更慢、更不稳定?关键在于,应用访问 Redis 也是一次远程调用,需要经过连接获取、数据转换和网络传输;失败后再查数据库,还会叠加等待时间。本文先说明缓存读写的基本模型,再分析耗时、失败路径和回源保护。
1. 场景:缓存故障让数据库流量翻倍
商品接口以数据库中的商品数据为准,把常用数据的副本放到 Redis 中。读取时先查 Redis:找到可用数据称为缓存命中;没有找到称为缓存未命中,此时查询数据库,称为回源。查询后再把数据写入 Redis,称为回填,供后续请求使用。
考虑这样一条故障链路:商品接口先查 Redis,失败后回源数据库。Redis 连接池耗尽时,每个请求先等待 500 ms,再访问数据库。连接池是客户端管理的一组可复用连接;没有可用连接时,请求可能需要等待,具体行为取决于客户端实现与配置。
如果这段等待使接口超过客户端的超时预算,客户端可能重试。客户端停止等待不一定会终止服务端已经开始的请求;若原始请求继续回源,重试请求也回源,数据库就要处理两次查询。每个请求都重试一次、两次请求都执行到数据库时,查询量可达到不重试时的两倍。500 ms 是这个场景中的等待时间,不是 Redis 的固定延迟或推荐超时值。
因此,缓存故障的代价不只是一次查询失败,还可能包括额外等待、请求积压和重试带来的数据库负载。
2. Cache Aside
**Cache Aside(旁路缓存)**由应用分别访问缓存和数据库,Redis 不会在未命中时自动替应用查数据库。正常读取路径如下:
图表将在阅读到此处时加载…
命中时省去数据库查询;未命中时既要访问缓存,又要查询数据库并回填。图中展示的是正常路径,缓存访问失败、数据库查询失败和回填失败还需要分别处理。缓存访问失败也不同于未命中:前者说明缓存链路不可用,后者只是当前 Key 没有可用数据。Key 是缓存条目的键,例如 product:123。
写入通常先更新数据库,待事务提交后再删除对应缓存。删除缓存称为失效,目的是让后续未命中的读取从数据库加载新值。这个顺序并不能让数据库更新与缓存删除成为一个原子操作;删除失败和并发回填仍有一致性风险,具体时序在下一篇展开。
Cache Aside 的控制权在应用,因此应用也负责回源、失效和并发控制。多个请求同时发现同一个 Key 未命中时,都可能查询数据库,不能把“一次未命中”理解为“只会回源一次”。
其他模式的区别在于谁负责加载,以及写操作何时到达后端:
- Read Through(读穿透):由缓存层在未命中时加载后端数据,对调用方隐藏加载过程。
- Write Through(写穿透):通过缓存层同步写缓存与后端。
- Write Behind(异步回写):先接收写入,再延迟批量落库。
这些名称描述读写模式,不足以判断持久性保证。是否会丢失已确认的写入、失败后如何恢复,还要看具体产品和配置,不能仅凭模式名称推断。
3. 缓存收益模型
先只考虑正常读取,用命中率表示读取请求中命中的比例,未命中率则是其余请求的比例。简化的平均耗时模型为:
text
E = 命中率 × 缓存耗时 + 未命中率 × (缓存耗时 + 回源耗时)这里的 E 是期望耗时,缓存耗时指一次缓存读取的耗时,回源耗时指数据库查询的耗时。这个简化模型没有单列回填成本,也没有描述失败路径。它说明:命中能省去回源,未命中却会多付出一次缓存读取成本,所以访问频繁并不自动意味着缓存划算。
评估完整链路时,还需计入连接池等待、序列化、网络、失败超时和回填竞争。序列化是把对象转换成可存储或传输的数据;反序列化是从这些数据恢复对象。即使命中率很高,超大对象也可能让传输和反序列化成本抵消收益。
平均耗时也不能替代尾延迟,即耗时分布中较慢那部分请求的延迟。多数命中请求很快,少数请求却在缓存超时后继续回源时,平均值可能仍然不错,但这些慢请求已经超出接口预算。因此,应同时观察命中与未命中耗时、连接等待、失败率、响应大小和尾延迟。
4. Java 最小结构
下面是 Cache Aside 读取方法的结构片段,需要所在类提供 Product、cache、repository、metrics、CacheUnavailableException 和 randomTtl() 等类型或依赖,不能直接作为完整程序运行。cache 是缓存访问封装;异常类型和超时行为取决于封装及客户端实现。
randomTtl() 用于生成带随机扰动的 TTL(Time To Live,生存时间),即缓存条目的过期时长。随机扰动的目的在于分散一批数据的过期时间,具体范围需要结合业务允许的陈旧程度设置。
java
public Product load(String id) {
String key = "product:" + id;
try {
Product cached = cache.get(key);
if (cached != null) return cached;
} catch (CacheUnavailableException e) {
metrics.increment("cache.read.failure");
// 快速失败后回源;不能先等待超过接口预算。
}
Product product = repository.find(id);
if (product != null) cache.set(key, product, randomTtl());
return product;
}在 cache.get() 用 null 表示未命中、数据库查询正常完成且回填成功的条件下,预期行为是:命中直接返回缓存对象;未命中或缓存读取抛出 CacheUnavailableException 时查询数据库;查到商品后回填并返回,查不到则返回 null,不缓存空结果。
这个片段有几个需要明确的边界:
catch只处理缓存读取的指定异常,其他异常不会自动转为回源。- 注释不会设置超时。连接获取和缓存调用的等待上限仍需在客户端中配置,并给数据库查询留出接口预算。
cache.set()在try外。如果回填抛出异常,方法会传播异常,即使数据库已经查到商品,也不会正常返回该商品。是否允许忽略回填失败并返回查询结果,需要由业务定义。- 片段没有限制回源并发,也没有合并同一个 Key 的并发查询。
是否允许回源要结合数据库容量。缓存大面积故障时,全量放行可能压垮数据库,应设置回源并发上限,并限制等待队列与等待时间。超过容量的请求应按业务规则拒绝或降级,不能在另一条队列里无限等待。
5. 缓存什么
适合缓存的是读取多、可从数据库等权威来源重建、允许一定陈旧的数据。允许陈旧意味着业务能接受在一段时间内读到旧副本;这个范围应在设计缓存前明确。
不应仅因“访问频繁”就缓存,还要看请求是否反复访问同一批数据,以及命中能节省多少成本:
- 低命中数据:大多数请求仍要回源,却额外增加缓存访问成本。
- 高基数数据:不同 Key 的数量很多;若单个 Key 很少被重复读取,缓存会占用空间却难以产生收益。
- 超大对象:存储、传输和数据转换的成本可能很高,应结合实际访问字段评估。
- 强一致数据:若要求读取立即看到最新结果,普通旁路缓存的旧副本可能不满足要求,不能仅靠设置过期时间解决。
6. 容易踩的坑
- 缓存调用没有短超时。 故障时先长时间等待,再回源,可能耗尽接口预算;连接池等待也应有界。
- 缓存无 TTL,也没有可靠失效机制。 数据可能长期陈旧。TTL 是兜底因素,不能替代更新后的失效处理,也不是强一致性保证。
- Key 无命名空间或版本。 多个环境共享缓存时可能互相覆盖;数据结构升级时,旧格式也可能被新代码读到。命名空间用于区分环境或业务,版本用于区分数据格式。
- 把数据库实体直接序列化,却没有兼容策略。 类或字段结构变化后,旧缓存可能无法读取,应明确缓存格式及升级方式。
- 缓存故障时无限回源。 缓存原本承接的读取集中落到数据库上,局部故障可能扩大为数据库过载。
- 只监控命中率。 还应观察连接等待、响应大小和淘汰率。淘汰指缓存因内存限制等策略移除条目,与条目到期不同;淘汰增加可能带来更多回源。
7. 总结
缓存把一部分数据库读取换成了另一条远程链路,收益来自高命中和更低成本,而不是“用了 Redis”本身。
- 先明确命中、未命中、读取失败和回填失败各自怎样返回;失败路径必须快速、有界,并保护数据库回源容量。
- 用完整调用成本评估收益,结合对象大小、序列化和尾延迟判断,不能只看命中率。
- Key、TTL、数据格式和降级策略共同构成缓存协议,决定缓存能否在数据更新、结构升级和故障时继续正确工作。
下一篇:数据库更新了,缓存为什么还是旧值:缓存一致性方案推导。