外观
18 - 连接池与系统资源
前置阅读:08 - 关闭与状态、12 - HTTP复用与Stream、17 - 预算和取消。并发许可机制见并发31。
实验使用 Java 17,仅模拟容量许可,不实现 HTTP/数据库连接池。真实连接池的大小、等待、存活验证、淘汰及指标含义取决于库和版本。系统资源部分区分 Linux 文件描述符(fd)与 Windows 句柄(Handles),两者不能按数量直接等同。
摘要
请求超时,可能是还没借到连接,也可能是借到后迟迟没有完成。连接池通过复用连接减少重复建立的成本,但池大小只限制一类资源,不能直接代表请求并发能力。本文先解释借用、占用和归还,再用平均容量推演、许可超时实验及系统资源账本,区分本地等待、下游变慢和资源泄漏。
1. 现象:池变大,排队少了,下游却更慢
假设每个请求执行期间独占一条连接。下游服务时间变长后,连接被占用得更久;在请求到达率不变时,同时借出的连接会增多。池内没有可用连接、又无法继续创建时,新请求只能等待或失败。这段等待称为资源申请等待(Acquire Wait),它发生在取得连接之前。
扩大池可能暂时减少等待,却允许更多请求同时进入下游。如果下游已经接近处理能力上限,新增并发可能进一步拉长处理时间、提高 CPU 消耗并增加超时,连接占用也随之变长。这是一种需要通过指标验证的反馈模型。应先查清占用期为何增长、等待任务有多少、下游还能承受多少并发,再决定拒绝超额请求、隔离依赖、缩短无效工作或调整池大小。
2. 原理:池化与业务准入分开
连接池管理一组可复用连接:请求先申请资源,取得连接后使用,完成后归还;失效连接则销毁。归还通常是让连接重新可用,并不意味着关闭底层 Socket(网络套接字)。因此,业务完成、归还池资源和关闭系统资源是不同的生命周期事件。
典型池用 Idle 表示空闲连接、Leased 表示已借出连接、Pending 表示正在等待的任务。具体指标含义仍需查库的契约:有的 Pending 统计等待线程,有的统计请求队列;针对单一路由(目标地址等分组)的统计,也不能与全局统计混用。
池化负责复用资源,业务准入负责限制进入下游的任务数。 业务许可是执行前必须取得的名额;它可以限制并发,但不会替你建立或验证连接。还需区分以下预算:
| 预算单位 | 管什么 | 不能直接替代 |
|---|---|---|
| 物理连接 | Socket 及远端会话 | 多路复用协议下,连接数不等于请求并发数 |
| Stream/交换 | 协议允许的并发流数与流量额度 | 一个流不一定独占一个 Socket |
| 业务许可 | 进入下游的并发任务数 | 不复用连接、不做存活校验 |
| Pending 任务 | 等待资源的任务数量 | 队列长度有界不保证等待时间有界 |
| Body/Buffer(消息体/缓冲区) | 消息内容及积压占用的内存 | 即使单帧大小有上限,大量连接仍可能耗尽内存 |
HTTP/1.1(下文简称 H1)常见客户端在一次请求期间独占连接,但流水线(pipelining,即不等前一个响应就发送后续请求)有不同语义。HTTP/2、HTTP/3(H2、H3)通过 Stream(流,一次逻辑交换)复用连接,需要同时约束协议额度和业务准入,不能只靠连接数限制请求并发。
复用同一个 HttpClient 为共享连接等资源提供了机会,但 Java 17 标准 HttpClient 没有公开的每路由池大小和资源申请超时(Acquire Timeout)配置 API。需要精确控制这些参数时,应选择支持相应能力的客户端,并核对具体版本。
2.1 Little定律:平均值与边界
Little 定律描述稳定系统中的平均数量关系:L = λ × W。L 是所选边界内的平均任务数,λ 是单位时间进入/完成该边界的任务数,W 是任务在该边界内的平均停留时间。三个量必须使用同一观察边界,且系统不能持续无界积压。
例如,每个请求独占一条连接,每秒处理 500 个请求,平均连接占用时间为 0.1 秒,则平均已借出连接数约为 500 × 0.1 = 50。这里从借到连接开始计时,到归还结束;若 W 还包含池等待,算出的就是等待加执行的平均请求数量,不能再称为 Leased。
P99 是 99% 样本不超过的耗时值,不是平均值,因此不能把 λ × P99 称为 Little 定律。平均需要 50 条连接,也不意味着合适的池大小(Pool Size)就是 50:突发、超时、丢弃、非稳定流量、多路复用和下游配额都会影响设计。多个实例共享同一下游时,还要合计各实例的并发上限,避免单实例配置看似合理,总量却超过下游容量。
3. 完整实验:Acquire超时不等于网络慢
准备 JDK 17,下载PermitWaitTimelineDemo.java,在文件所在目录编译运行。程序使用 Semaphore(信号量,管理可用许可数)、CountDownLatch(用于等待指定事件发生的同步器)和一个受控线程,不建立网络连接:
bash
javac PermitWaitTimelineDemo.java
java PermitWaitTimelineDemo容量固定为 1。持有者线程 holder 先取得唯一许可,同步器保证主线程开始申请时,许可确实已被占用。主线程最多等待 150ms;申请失败后既不执行模拟操作,也不调用 release。随后让 holder 结束并释放许可,主线程再次申请,取得许可后执行一次模拟操作,最后在 finally 中只释放自己实际取得的许可。
2026-09-30,Windows/OpenJDK17+35实际输出:
text
case=blocked acquireMs=161 acquired=false simulatedOperations=0: PASS
case=recovered acquireMs=0 acquired=true simulatedOperations=1: PASS
failed acquire did not release; holder completion restores capacity: PASS失败阶段没有建立任何网络连接,也没有执行模拟操作,因此这次超时来自本地许可等待。实际等待 161ms,说明 150ms 是等待参数,不是硬实时返回保证,线程调度会影响观察值。持有者释放许可后,后续申请恢复成功,也支持等待发生在本地容量这一判断;不能把该耗时解释为网络往返时间(RTT)。
实验只验证许可准入和释放责任。 它不借用 Socket,不涉及 HTTP、数据库、空闲连接验证、网络地址转换(NAT)或连接淘汰,也不能证明某个产品的 Leased/Pending 指标含义。程序通过同步条件控制占用顺序,检查最终许可数恢复为 1,并为线程清理设置截止时间;这些检查不依赖猜测 sleep 时长。
4. 实现:借用、超时与归还
text
借用前:剩余预算、队列上限、路由/依赖隔离
取得资源:记录所有者和借用起点
执行:协议完整性、Body消费、取消和整体截止
完成:可复用则归还;失效或协议未同步则销毁
失败借用:无资源可释放,不人为增加池/许可容量借用失败时没有取得资源,不能无条件释放;否则可能凭空增加许可容量。借用成功后,清理责任则必须覆盖正常返回、异常和取消路径。
SO_TIMEOUT 控制相应 Socket 的读取等待。读取超时后 Socket 可能仍有效,但如果只读了半帧、H1 响应尚未消费完,或无法确定协议读取位置,就不能直接作为下一次请求的连接复用,否则可能把上一条消息的剩余字节误读为新响应。H2 取消一个 Stream 与关闭整条连接不同;流式 Body(消息体)须按客户端契约消费、关闭或取消订阅,不能把 Body.close 泛化为所有请求都能安全归还连接的保证。
连接维护也有不同边界:Max Lifetime 限制连接总寿命,Idle Timeout 限制空闲时长,探活检查连接当时是否可用,TCP Keepalive 是 TCP 层的保活机制。具体淘汰时机取决于实现;探活成功后连接仍可能马上失效,TCP 保活成功也不证明应用业务正常。
归还池资源不证明 fd 已关闭,销毁连接也不会回滚远端事务。连接维护还要配合中间设备的空闲映射期限、DNS 地址更新,以及服务摘流(停止接收新流量、处理已有请求),见11、15。
5. 资源账本:fd、端口、状态和内存
连接池指标只覆盖池管理的资源,系统压力还可能发生在进程、内核和中间设备。Linux 的 fd 是进程引用打开资源的文件描述符,除 Socket 外也用于文件、管道等。临时端口是系统为连接分配的本地端口;NAT 会维护地址转换映射,conntrack 则跟踪连接状态。它们各有容量和生命周期,排障时应分别记录:
| 资源 | 如何观察 | 不能推出 |
|---|---|---|
| 进程 fd | 目标进程限制、fd 数量与类型 | 当前 Shell 的限制就是服务进程限制 |
| Socket 状态 | 目标端口、进程及其网络隔离范围 | TIME_WAIT 数量等于应用未关闭资源 |
| 临时端口 | 范围、目标组合、分配失败 | 端口数就是全机连接固定上限 |
| NAT/conntrack | 相应设备映射与插入失败增量 | 本机Socket正常就NAT容量正常 |
| 缓冲区/TLS(传输层安全)/流对象 | 连接级与全局内存 | 堆不增长就没有堆外或内核内存压力 |
TIME_WAIT 是 TCP 关闭保护状态,可在应用 fd 已关闭后由内核继续维护,因此数量多不直接证明应用漏关。CLOSE_WAIT 表示本端已收到对端结束发送的信号,但本地关闭尚未完成,需要继续追踪应用生命周期,见08。
端口范围也不能直接换算为全机固定连接上限。连接涉及本地与远端地址、端口的组合;显式 bind(绑定地址和端口)、地址族、操作系统复用规则和中间设备策略都会影响限制。不能套用统一的 65535 条连接上限,也不能仅凭 TIME_WAIT 多就把 tcp_tw_reuse 当作生产调优方案。
6. Linux只读排障与版本边界
以下命令用于 Linux 现场只读观察。将 PID 替换为服务进程 ID,并将 443 替换为目标端口;应在对应进程和网络命名空间(Namespace,即资源隔离的可见范围)中执行。能否查看完整字段取决于权限和工具版本:
bash
cat /proc/PID/limits
ls /proc/PID/fd
sysctl net.ipv4.ip_local_port_range
ss -s
ss -antp '( dport = :443 or sport = :443 )'
lsof -nP -p PID -a -iTCPlimits 展示目标 PID 的软/硬限制;软限制是当前生效的限制,硬限制约束软限制可调整的上界。fd 列表包含文件、管道等,不能把条目数全部算作连接数。lsof 只筛选指定进程的 TCP 资源,并禁止名称解析;输出字段仍需结合版本和权限解释。ss -s 的汇总及端口范围查询都不是某个连接池的精确指标。
当前 Shell 的 ulimit 只能说明该 Shell 及相应继承关系下的限制,服务管理器或容器启动的进程可能采用不同配置,因此应查看目标 PID。
Windows 可用 Get-NetTCPConnection 按 OwningProcess 筛选连接,用 netsh 查看动态 TCP 端口范围。Get-Process 的 Handles 是 Windows 句柄总量,不能当作 Linux fd 的等价数量。云平台 NAT 设备的容量和空闲映射策略需在对应平台验证,不能从本机默认值推断。
7. 假设、证据与工程取舍
把每次申请、取得、归还或销毁的时间关联到同一请求,才能确定等待发生在哪层。下表中的 Occupied Time 指资源从借出到归还或销毁的占用时间;Borrow/Return 指借用/归还事件,名称不代表所有库都提供同名指标。
| 假设 | 支持信号 | 反证/下一步 |
|---|---|---|
| 下游变慢占用池 | 占用时间先升,Leased 和 Pending 变化相符 | 分别查看消息体消费与服务端处理耗时,不先扩大池 |
| 未释放或流式占用 | 借用后长时间没有归还,异常/订阅路径可复现 | 追踪资源所有者、消息体与销毁记录,不只看连接数 |
| 连接建立资源不足 | 对应分配异常、目标进程限制或映射数量增长 | 区分 fd、端口和 NAT,不只看 TIME_WAIT |
| 入口超额或跨依赖竞争 | 到达率、等待/拒绝量及各依赖请求比例变化 | 对照限额与依赖隔离的效果,扩池或扩线程都非默认答案 |
对照验证时,每次只调整一种预算,比较申请等待分布、资源占用时间、错误率、拒绝量、下游并发和 CPU。只降低本地等待、却让下游更饱和,不能算作有效改进。真实连接池及流式响应泄漏需要在锁定库版本、使用受控服务的条件下验证,许可程序不能替代这些实验。依赖隔离中的“舱壁”是为不同依赖划分独立容量,避免一个依赖耗尽其他依赖的资源。
- 阶段排障:22;有界Buffer应用:16。
- 依赖隔离:并发32;反馈准入:并发33。
- Java17 Semaphore:许可不带资源所有权,必须自行正确释放。
- Linux proc_pid_limits:目标进程的软/硬限制与单位。
验收点:区分准入、连接和Stream容量,能证明等待发生在哪层及借用资源最终归还或销毁。