外观
17 - 网络超时与重试
前置阅读:05 - 打开与完成边界、09 - 帧完成、12 - 响应消费。服务总预算的方法见分布式11。
Socket 实验基线为 Java 17。HTTP、TLS、代理、连接池和数据库的超时(timeout)与取消(cancel)范围取决于具体实现和版本。本文聚焦网络 API 的适用边界。
摘要
一次读取最多等待多久,与一条完整消息最晚何时读完,是两种约束。只有读取超时,对端就可能通过不断发送少量数据,让整个请求持续很久;要限制总耗时,还需让各阶段共享同一个时间预算。本文用回环滴流实验说明这一区别,再讨论重试与取消:收到超时异常,只能说明某个等待边界被触发,不能据此认定业务未执行或资源已释放。
1. 现象:每次读取都很快,请求却迟迟不结束
假设对端每 200ms 发一个字节,本地每次 read 最多等待 500ms。每次都能在 500ms 内读到数据,下一次读取又获得新的等待时间,因此读满 8 字节仍可能超过 1.6 秒,且一次也不超时。这种持续发送少量数据的方式称为“滴流”。它说明:每次读取都未超时,不代表整个请求能在 650ms 内完成。
另一种容易混淆的现象是:调用方已经收到超时结果,后台任务、Socket(网络套接字)或数据库操作却仍在继续。Future 是承载异步任务结果的对象;让它以超时结束,只改变调用方看到的结果,不等于底层操作停止。如果远端业务已经提交,随后重试还可能重复扣款、写入等副作用。
2. 原理:超时保护对象必须明确
先区分两个基本概念。阶段超时限制某次操作或某段等待,例如建立连接、读取数据;**总截止时间(Overall Deadline)**规定整个操作必须完成的到期边界。总预算是从操作开始到截止时间允许使用的时长,后续阶段只能使用尚未消耗的部分,不能各自重新获得一份完整预算。
一次网络调用可能经历地址解析、等待连接池、建立连接、安全握手、发送请求和读取响应,也可能直接复用已有连接。判断配置是否有效,要先确定它保护哪一步。
| 预算 | 典型保护对象 | 不自动覆盖 |
|---|---|---|
| DNS/Resolver(地址解析) | 指定的域名解析路径 | HTTP 客户端池等待、旧连接复用 |
| Acquire(资源申请) | 等待连接或并发许可 | 已借用后的网络与业务执行 |
| Connect(连接建立) | 指定客户端定义的建立阶段 | 通常不覆盖之前构造地址时的 DNS;不同工具可包含代理/TLS |
| TLS handshake(安全握手) | 当前这一跳的握手 | 其他代理跳或业务 Body(消息体) |
| Read/idle(读取/空闲) | 某次读取或活动间隔 | 全 Body、全帧、重试总时长 |
| Write(写入) | 指定客户端的写入等待 | 经典 Socket 的 SO_TIMEOUT 不提供该写入保护 |
| Overall Deadline(总截止时间) | 全操作的到期边界 | 不自动取消所有下游操作和清理资源 |
“这一跳”指当前两个通信端点之间的连接;经过代理时,客户端到代理、代理到服务端可以有各自的握手和超时。帧则是应用协议定义的一条完整消息,它可能需要多次读取才能收齐。
不能仅按参数名字比较配置:curl 的 connect-timeout 与 Java 的 Socket.connect 不是同一契约;代理的 proxy_read_timeout 限制的是相邻读取间隔,见15。对于流式 Body,还要确认客户端超时是否覆盖后续内容读取,以及取消能否传递到内容订阅和底层操作,不能只凭参数名推断。
2.1 单调预算与剩余时间
进程内计算耗时,可使用 System.nanoTime() 的差值。它用于度量经过时间,不以日期时间为基准,因此不会把墙上时钟的校准直接算成请求耗时。预算应为正并有最大值,避免单位转换或计算溢出。
text
原操作预算B,已用时间E,清理/返回预留R
剩余可用 = B - E - R
本阶段允许等待 = min(本阶段上限, 剩余可用)
剩余不足:不再进入池等待、重试或新的网络尝试这样,前面的阶段耗时越多,后面的阶段就只能等得越短。清理和返回也需要时间,预留 R 是为了避免把全部预算用在等待上,到期后才开始处理退出。
并行依赖的耗时不能按串行阶段简单相加;让多个请求竞速也会占用容量,取消未获胜的请求仍有成本。跨进程可传播具有明确语义的剩余预算或绝对截止时间,并考虑传输耗时与时钟误差。nanoTime() 的原点没有跨进程含义,不能直接把本机读数作为下游的到期时间戳。
3. 实现:SO_TIMEOUT不等于整帧Deadline
经典 Socket.setSoTimeout 控制相应 InputStream 的阻塞读取等待。参数单位为毫秒,0 表示不设置该等待超时。因此,剩余时间不足 1ms 时,不能向下取整成 0,否则会把短暂等待变成没有读取超时限制。
要限制整帧读取,流程是:每次读取前重新计算剩余时间;若已耗尽就退出,否则向上取整到至少 1ms,再与读取阶段上限取较小值。读取返回后还要检查是否到期,因为毫秒取整和线程调度可能让实际返回时间越过截止点。已超过总预算才收齐的数据,不能算作按时成功。
读取超时后,Socket 可能仍然有效,但协议状态未必允许继续复用。例如,已经消费了半帧,剩下的字节仍属于这条消息;若直接发起下一次请求并将它们当作新响应,就会错读消息边界。下面的实验在帧到期后关闭 Socket,不复用带有未完成协议状态的连接。
这个流程针对逐字节读取的裸 Socket。BufferedInputStream(缓冲输入流)、TLS 解码和框架的 Body 读取可能在内部循环或预读,不能直接把裸 Socket 的结论推广到所有包装流。应用解析、CPU 计算和业务执行也会消耗时间,需要各自的执行限制或截止检查。
4. 完整实验:读取间隔与650ms总预算
准备 JDK 17,下载SocketFrameDeadlineDemo.java,在文件所在目录编译并运行。客户端与服务端均使用本机回环地址 127.0.0.1,服务端绑定随机端口,收到启动字节后每 200ms 发送一个字节,共 8 字节。
bash
javac SocketFrameDeadlineDemo.java
java SocketFrameDeadlineDemo两组对照只改变读取预算的计算方式:第一组每次读取最多等待 500ms;第二组仍以 500ms 为阶段上限,但每次从 650ms 帧总预算中扣除已用时间。这个帧预算从连接建立、启动字节发送后开始计时,不是整个程序的总预算。
以下是完整程序中的局部逻辑,依赖常量、计时起点和 Socket,不能单独运行;完整校验、服务端与资源清理见下载文件:
java
long remaining = FRAME_BUDGET_NANOS - (System.nanoTime() - started);
if (overallBudget && remaining <= 0) throw new SocketTimeoutException("frame deadline exceeded");
int waitMillis = overallBudget
? (int) Math.min(READ_TIMEOUT_MS, Math.max(1, (remaining + 999_999) / 1_000_000))
: READ_TIMEOUT_MS;
socket.setSoTimeout(waitMillis);overallBudget 决定是否启用整帧预算。启用后,remaining 随耗时递减;纳秒转毫秒时向上取整,再限制为最多 500ms。完整程序还在每次读取返回后检查截止时间。
2026-09-30,Windows/OpenJDK17+35实际输出:
text
overall=false bytes=8 elapsedMs=1694 timedOut=false: PASS
overall=true bytes=3 elapsedMs=657 timedOut=true: PASS
server IO ended=SocketException第一组断言 8 字节内容正确且不发生读取超时;第二组断言尚未收满便超时。第一组用时 1694ms,说明 500ms 的单次等待没有限制整帧耗时。第二组在 657ms 超时,说明共享预算可以终止滴流读取,但不构成硬实时的 650ms 保证:取整、计时器和线程调度都会造成超出。若环境异常停顿导致第一组读取超时,程序会判定失败。
实验只读取固定的 8 字节,不实现任意长度协议,也不测试 DNS、写入永久阻塞、TLS、HttpClient Body 或生产环境的取消链。客户端关闭后,服务端可能观测到 I/O(输入/输出)失败,也可能还有少量 write 成功;本地写入成功不证明远端仍在消费。线程和等待虽有有限预算,整个进程仍需外层截止时间保护。
5. 重试:结果未知与额外负载
重试是再次发起一次操作,不是恢复上一条连接上尚未完成的半帧。是否重试,首先取决于业务能否承受重复执行。读超时可能发生在业务提交之后;本次 connect 失败,也不能证明前一次尝试未执行。因此,错误名称本身不足以决定重试策略。
需结合操作语义、上次失败阶段、幂等键、响应是否已经提交、请求 Body 能否重新发送,以及剩余预算和额外尝试配额来判断。幂等指重复执行同一意图不会增加业务效果;幂等键用于标识这个意图,让服务端识别重复请求。去重判断与业务处理需要原子协调,不能只靠客户端发送一个键。
| 策略 | 必需约束 | 常见错误 |
|---|---|---|
| 次数限制 | 明确“总尝试”还是“额外重试” | 每层各自加 3 次而未计算总放大 |
| 退避/Jitter(随机抖动) | 等待有上限,且扣除总预算 | 固定时间同步唤醒,或等到预算之外 |
| Retry Budget(重试配额) | 按方法/依赖限制额外流量 | 下游过载时仍持续放大请求量 |
| 幂等/去重 | 同一意图使用稳定键,并原子处理 | 每次重试重新生成键 |
| 取消清理 | 排队、连接、流和下游各自退出 | 只返回超时,不处理后台资源 |
退避是失败后先等待再尝试;随机抖动是在等待时间中加入随机变化,减少多个调用方同时重试。它们都不能替代总预算和流量配额:等待本身会消耗时间,新增尝试也会占用下游容量。
若三层调用各最多 3 次总尝试,在每层都用满次数的最坏情况下,最下游可收到 3³=27 次尝试;若每层各额外重试 3 次,则是 4³=64 次。这是教学上限推演,具体客户端还受错误类型、重试配额和响应状态限制。
实现退避计算时,应明确 attempt(尝试序号)从哪次开始,处理移位/乘法溢出,并约束随机值上界。base << attempt 这样的表达式不能直接作为无边界的生产退避算法。完整方法见分布式12,业务结果未知的处理见分布式13。
6. 取消与连接归还:所有者责任
超时解决的是“等到何时”,取消与清理解决的是“到期后谁停止工作、谁释放资源”。Future.cancel、HttpClient 取消、Socket.close、HTTP/2 Stream(流)取消与数据库 cancel 的作用范围不同。HTTP/2 的流是一条连接上的逻辑交换,取消某个流与关闭整条连接不同。
关闭本机连接通常能终止相应 I/O,但不回滚远端已提交的事务,也不保证其任务立即停止。因此,应分别记录 API 返回、后台任务终止和资源释放的时间,不能用其中一个时点代替另外两个。
资源由实际取得它的一方负责清理。等待许可超时、尚未获得资源时,不能在 finally 中无条件 release,否则会凭空增加许可容量。已借用连接发生错误后,则要根据协议是否完整、连接是否可复用,选择归还或销毁。
流式响应应按客户端生命周期处理内容消费、关闭和订阅取消;仅取消一个包装 Future,不能证明底层流、连接和下游操作均已释放。具体行为取决于库版本和使用方式,需要在对应环境验证,资源实验见18。
任务取消与生命周期的进一步解释见并发17 - Future取消、并发27 - 生命周期泄漏。
7. 验证、排障与导航
测试至少应覆盖:池等待超时、连接建立失败、收到部分 Header(消息头)或 Body 后超时、滴流、重试前预算耗尽,以及超时后的资源回收。先建立单变量基线,再注入故障,方法见A。测试计划中的预期结果与实际运行记录应分开,只有取得证据后才能认定对应路径得到验证。
排障时,每次尝试(Attempt)记录预算起点、剩余时间、所在阶段、实际目标与协议、已消费字节,以及超时、取消和释放的时点。这样才能区分本地排队、连接建立、内容读取和清理分别消耗了多少时间。连接级证据见21,阶段耗时见22。
主机重传增加或最终返回 HTTP 504,只是需要继续定位的信号,不能直接当作读取超时的根因;还需把它们与目标连接和请求阶段对应起来。
- 资源后续:18;值班分诊:20。
- Java17 Socket:connect、SO_TIMEOUT 与关闭契约。
- Java17 HttpRequest.Builder:request timeout;Body 和取消范围需按具体使用方式验证。
验收点:各阶段消费同一预算,滴流不无限延长帧,超时、业务结果与资源释放分别验证。