外观
05 - 线程已经就绪,为什么还没运行:调度、优先级与上下文切换
摘要
接口很慢,线程栈却一直显示 RUNNABLE,增加线程也不见好转:线程究竟在计算,还是在等 CPU?本文先区分执行、就绪与阻塞,再解释 Linux 如何通过调度策略和权重分配 CPU,以及亲和性和配额怎样限制执行机会。最后用有期限的示例区分 CPU 时间与经过时间,建立调度延迟的排查方法。
阅读指引
- 前置阅读:进程与线程的资源归属,理解每个线程有自己的执行现场;创建、信号与退出,理解等待与生命周期。
- 本文定位:解释就绪任务怎样获得 CPU,建立诊断调度延迟的基础;不把 CPU 高、Load 高和锁等待混成一个问题。
- 环境边界:调度原理以 Linux 为背景,普通任务重点讨论公平调度。实时策略、内核版本、发行版补丁与 cgroup 配置都会改变细节,不能把某一版本实现当永恒规则。
- 示例要求:Python 3.8+,示例可跨平台运行;Linux 的
/proc、taskset、pidstat等命令需有相应工具与权限。 - 实验范围:示例展示计时口径并检查计算结果,不能单独证明服务器发生了调度饥饿,也不能测出上下文切换成本。Linux 状态采样与配额归因需结合目标环境。
1. 场景:线程“可运行”,为什么请求还在等
设想一个排障现场:数据库响应正常,业务线程没有明显锁等待,但接口响应变慢。有人看到 Java 线程栈里的 RUNNABLE,就判断“线程正在用 CPU”,接着增加线程池大小。
这个推理缺了一步:允许运行,不等于此刻已经在某个 CPU 上运行。 一个线程可能已经具备运行条件,但仍在等调度;它可用的 CPU 也可能被亲和性、容器配额或其他任务限制。
此外,Java RUNNABLE 是语言运行时状态,不等价于 Linux 某个瞬间的 R 状态。部分原生调用的等待也可能显示为 Java RUNNABLE。因此,线程栈需要与同实例、同时间窗口的 CPU、调度和等待证据结合。
先问“时间花在哪里”,再决定是不是调度问题。
2. 基础地图:执行、就绪、阻塞不是同一状态
先看一个简化场景:只有一个逻辑 CPU,却有两个线程都需要继续计算。它们不能在这个 CPU 上同时执行,因此一个运行时,另一个只能等待;运行中的线程阻塞或被替换后,调度器再选择接下来运行的任务。增加线程不会增加这个 CPU 的计算能力。
逻辑 CPU 是操作系统可调度的处理单元,可能对应物理核,也可能对应同一核的硬件线程。Scheduler,即调度器,负责选择哪个可运行任务使用 CPU;Run Queue,即运行队列,是内核组织这些任务的结构,不一定是先入先出的链表。下面按线程能否继续执行、是否已获得 CPU,区分三种基本状态。
图表将在阅读到此处时加载…
图中“就绪”与“执行”都具备运行条件;“阻塞”则要先等条件变化。这是理解调度的学习模型,不与 Linux 状态标记一一对应。抢占是运行中的任务被调度器暂时换下,稍后还能从保存的执行位置继续。
| 学习模型 | Linux 常见观察 | 应怎样解释 |
|---|---|---|
| 执行中 | 常包含在 R 状态内 | 某个采样时刻正在 CPU 上执行 |
| 已就绪待调度 | 也可能显示 R | 可运行,但尚未获得 CPU |
| 可中断睡眠 | 常见为 S | 在等事件,不足以判断是锁、网络还是计时器 |
| 不可中断等待 | 常见为 D | 需要进一步看等待点与内核路径,不必然是磁盘问题 |
| 停止或已退出待回收 | 如 T、Z | 不是普通的“排队等 CPU” |
唤醒不等于立即执行,也不等于获得锁。 唤醒让任务有机会参与调度;重新执行后还要检查等待条件是否成立。这个区别是下一篇锁与等待的前置知识。
2.1 谁被调度:内核线程,不是业务请求
原生线程是操作系统直接管理的线程,也是普通 Linux 线程程序参与内核调度的单位。这里的“内核线程”强调由内核调度,不是说业务代码在内核态运行。调度器通常不知道一个请求有多重要、是否已经等了 500 ms。
请求还可能在应用队列里,尚未交给工作线程。虚拟线程由语言运行时安排到原生线程上执行,也可能先在运行时这一层等待。因此,请求等待与内核就绪等待要分开观察:
text
请求进入
→ 应用队列等待
→ 执行器或运行时安排执行
→ 原生线程可运行
→ 内核调度到 CPU
→ 计算,或转入锁 / I/O 等待两层队列同时存在时,扩大线程池可能把应用队列等待转换为更多内核就绪任务,却没增加实际 CPU 预算。要对齐请求、线程、CPU 和配额的观察口径。
3. 调度器怎样做选择:策略、权重与公平
3.1 调度策略先决定“按什么规则竞争”
先区分两件事:调度策略决定按什么规则竞争,权重决定普通公平调度中相对分得多少 CPU 时间。 公平调度也不是让每个请求按到达顺序完成,因为请求所需的计算和等待并不相同。
Scheduling Policy,即调度策略,决定任务采用哪类规则。下表列出 Linux 常见策略;其中实时策略面向有特定时序需求的任务,并不自动保证整个服务按期响应。
| 策略 | 主要定位 | 基础边界 |
|---|---|---|
| SCHED_OTHER | 常见普通分时任务 | 按普通公平调度规则参与竞争,不是实时策略 |
| SCHED_BATCH | 偏向批处理任务的普通策略 | 不承诺固定完成期限;细节依实现 |
| SCHED_IDLE | 极低优先级的后台工作 | 与某个 CPU 的 idle 线程不是同一个概念 |
| SCHED_FIFO | 固定实时优先级、没有普通轮转时间片的 FIFO 策略 | 不代表整个系统端到端延迟有硬保证,误用可饿死普通任务 |
| SCHED_RR | 同优先级实时任务之间轮转 | 与普通任务的 nice 权重规则不同 |
| SCHED_DEADLINE | 按运行预算、截止期和周期约束参与调度 | 有准入和配置条件,不等于所有接口超时都能用它解决 |
普通 Web 服务通常先分析 SCHED_OTHER 及资源限制。P99 是第 99 百分位延迟,用来观察响应时间分布的尾部。一次 P99 突增不足以支持把服务提升到实时优先级:chrt 改变调度策略后,可能压缩其他任务的执行机会,而真正的等待原因仍未解决。
把面试里常见的调度算法放回这个背景,会更容易分清“教学模型”和“Linux 实现”:
| 模型或策略 | 怎样选择任务 | 适用边界与常见代价 |
|---|---|---|
| FCFS,先来先服务 | 按进入顺序处理 | 非抢占的简化模型可能让短任务排在长任务后,不代表 Linux 普通调度器 |
| SJF,短作业优先 | 选择预计工作更短的任务 | 需要估计工作量,长任务可能长期等待;不能从线程名推算执行长度 |
| RR,轮转模型 | 每个可运行任务轮流获得一段执行时间 | 时间片太短增切换,太长影响响应;模型不自动包含优先级与组预算 |
时间片是一次连续执行机会的时长。教学中的 RR 模型有助于理解响应速度与切换成本的取舍;Linux SCHED_RR 则仍按实时优先级组织竞争,不是让所有线程统一轮转。SCHED_FIFO 的同级任务不靠普通时间片轮转,可运行到阻塞、让出或被更高优先级任务抢占等。
Linux FIFO/RR 的确切规则与权限以 sched(7) 和目标配置为准,不建议用实时策略实验制造任务饥饿。
3.2 nice 是竞争权重,不是预约几个 CPU
Nice Value,即 nice 值,是普通任务调整相对调度优先程度的参数。Linux 常见范围是 -20 到 19,数值越低通常相对优先程度越高;它不是毫秒数,也不是固定 CPU 百分比。
权重表达的是竞争者之间的比例关系。只有结合“与谁竞争、争哪些 CPU、是否还受组级限制”,才能解释实际份额。cgroup(控制组)是 Linux 按任务组计账和限制资源的机制;组级权重和配额也会影响线程最终得到的执行机会。
在 Linux 中,nice 和亲和性等属性可以按线程设置。PID 是进程标识,TID 是线程标识;使用 renice 等工具时要确认操作范围,不能假定指定一个 PID 就设置了所有线程的每项属性。
- 在没有竞争时,低权重任务也可能使用空闲 CPU。
- 有竞争时,份额还受到调度组、cgroup 权重、可用 CPU 等影响。
- 调整 nice 不解除 cgroup 的硬带宽配额,也不自动扩大亲和性集合。
- 提高优先程度可能需要权限;降低其他服务的份额不是免费的性能优化。
因此,nice=10 不能解释为“只用 10% CPU”。nice 改变相对竞争权重,不是为任务预留或封顶一个固定百分比。
3.3 CFS 与 EEVDF:公平不是给每个线程相同的墙钟时间
CFS,即 Completely Fair Scheduler,是 Linux 普通公平调度的重要历史实现。其核心直觉是记录加权执行进度:得到更多 CPU 的任务,其虚拟运行时间推进,调度选择围绕公平份额组织,而不是只看谁先入队。
Virtual Runtime,即虚拟运行时间,是按权重折算后的执行进度。同样执行一段 CPU 时间,较高权重任务的虚拟运行时间推进得较慢,因而能在公平竞争中获得更多执行份额。这个量记录的是调度进度,不是请求已经等待了多久。
墙钟时间在这里指从开始到结束的经过时长,包含执行和等待。公平调度分配的是 CPU 服务,而不是让所有线程在相同经过时长内完成工作。
Linux 从 6.6 开始在公平调度中向 EEVDF 机制演进。EEVDF,即 Earliest Eligible Virtual Deadline First,先判断任务是否具备公平意义上的候选资格,再倾向选择虚拟截止时间更早的候选任务。
理解三个词就够建立主线:
- Lag,份额差额:任务按公平模型应得的服务与已得服务之间的差距;可用于判断是否欠它 CPU。
- Eligible,候选资格:是否满足当前公平服务条件,不等于业务是否通过权限检查。
- Virtual Deadline,虚拟截止时间:调度模型中的比较量,不是 HTTP 请求的 timeout。
EEVDF 的睡眠任务处理、时间片与实现细节持续演进,分析时应固定内核版本并检查发行版补丁。“CFS 红黑树选最左节点”不能概括所有 Linux 公平调度实现。红黑树是一种平衡搜索树,用于有序组织数据;理解本篇主线不需要先掌握它的实现。
公平的对象和时间尺度也要说清楚:调度器服务的是可运行任务及其组,不是保证每个请求延迟一样;一个经常阻塞的任务不会因为没运行就自动获得等量墙钟时间补偿。
4. 多核、亲和性与配额:有 CPU,不代表这个线程能用
前面的策略与权重解释了“怎样竞争”,多核环境还要回答“能在哪些 CPU 上竞争”。CPU Affinity,即 CPU 亲和性,限制任务允许执行的逻辑 CPU 集合;cpuset 是 cgroup 中约束任务可用 CPU 和内存节点的机制。机器上存在空闲 CPU,不代表它就在该线程的允许集合里。
text
机器看到的逻辑 CPU
∩ 任务亲和性
∩ cpuset 等允许集合
∩ 当前可用在线 CPU
→ 可能执行的位置
实际可执行时长还受竞争、调度策略与 cgroup 带宽等约束。局部性是连续访问相近代码和数据、利用已有缓存的特征。绑定一个 CPU 可能提高局部性,但多个线程都绑定在同一处也可能制造热点,让其他 CPU 空闲而这些线程仍排队。迁移可能改善负载均衡,也可能扰动缓存和内存访问。NUMA,即非均匀内存访问架构,意味着不同 CPU 访问某些内存区域的成本可能不同,但这不构成“所有服务都应该绑核”的结论。
4.1 “1 Core limit”不等于只能运行一个线程
cgroup 的 CPU 带宽限制主要控制一段周期内合计使用的 CPU 时间。多个线程可能在多个 CPU 上同时运行,更快耗尽该组预算,然后一起等待后续可用预算。
这种预算耗尽后被暂时限制执行的现象称为节流(Throttling)。等待时间集中在短窗口内时,仍可能拉长部分请求的响应时间,即长尾延迟。因此,分钟平均 CPU 未满也不能排除短窗口节流。具体证据见 CPU Limit 与 Throttling:核对真实层级,比较同窗口 cpu.stat 增量和业务长尾。
CPU 权重与 CPU 配额也是两件事:权重影响竞争分配;配额给出适用层级的带宽边界。cgroup v2 的 cpu.max 描述 CPU 带宽配额与周期;某一层不设限,不代表其所有祖先组都不设限。
5. 上下文切换与抢占:不是每次切换都“重启程序”
线程被换下后,程序不需要从头运行,因为内核保存了它继续执行所需的现场。Context Switch,即上下文切换,就是保存当前任务现场、恢复另一任务现场的过程,通常至少涉及寄存器、栈使用状态及相应内核管理状态。切换到不同地址空间时,还要处理地址转换环境。
Preemption,即抢占,是当前任务未主动结束其工作就被调度机制暂时替换。具体可抢占位置与内核配置有关,不把普通用户态任务、内核临界区和中断处理混为一谈。TLB 是缓存地址转换结果的硬件结构,下面也用它说明切换成本的边界。
| 现象 | 它证明什么 | 它不证明什么 |
|---|---|---|
| 系统调用进入内核 | 请求受控内核服务 | 必定发生另一个线程的切换 |
| 自愿切换次数增加 | 按计数口径发生主动等待等切换 | 必定是锁竞争,或必定是网络慢 |
| 非自愿切换次数增加 | 按计数口径被替换执行 | 一定性能更差,或根因一定是线程太多 |
| 迁移到另一 CPU | 执行位置发生变化 | 每次必定清空所有缓存和 TLB |
保存和恢复现场需要执行额外的管理工作;换入任务若不能利用当前缓存,还可能增加后续访存成本。这分别是切换的直接成本和局部性变化带来的间接成本,但没有通用的固定纳秒值。高切换率可能是问题,也可能只是高吞吐工作的结果,必须看单位工作成本、业务吞吐和长尾。
地址转换缓存 TLB 会在内存分支的 虚拟内存与分页 展开;某些架构有地址空间标签等优化,跨进程切换不等于简单清空所有转换结果。
6. 可运行实战:CPU 时间不等于请求经过时间
将下面保存为 cpu_time_demo.py,使用 python3 cpu_time_demo.py 运行。父进程给子进程 8 秒等待预算;子进程进行有限哈希计算,再休眠 0.2 秒。
这个实验不要求 root(系统超级用户)权限,不绑核,不制造整机饥饿。time.process_time() 是当前进程的 CPU 时间,不包含等待期间未执行的时间;time.perf_counter() 用于测量经过时长。
python
import hashlib
import json
import subprocess
import sys
import time
def child_main():
payload = b"scheduler-demo" * 32
cpu_start = time.process_time()
wall_start = time.perf_counter()
digest = payload
for step_index in range(50000):
digest = hashlib.sha256(digest).digest() # 有限工作,结果会被验收。
compute_cpu = time.process_time() - cpu_start
compute_wall = time.perf_counter() - wall_start
sleep_cpu_start = time.process_time()
sleep_wall_start = time.perf_counter()
time.sleep(0.2) # 主动等待;不承诺调度器恰好在 0.2 秒后运行本进程。
report = {
"digest": digest.hex(),
"compute_cpu_seconds": compute_cpu,
"compute_wall_seconds": compute_wall,
"sleep_cpu_seconds": time.process_time() - sleep_cpu_start,
"sleep_wall_seconds": time.perf_counter() - sleep_wall_start,
}
print(json.dumps(report))
def main():
if sys.argv[1:] == ["child"]:
child_main()
return
if sys.argv[1:]:
raise SystemExit("用法:python3 cpu_time_demo.py")
result = subprocess.run(
[sys.executable, __file__, "child"],
capture_output=True, text=True, timeout=8, check=True,
)
report = json.loads(result.stdout)
expected = b"scheduler-demo" * 32
for step_index in range(50000):
expected = hashlib.sha256(expected).digest()
assert report["digest"] == expected.hex()
for field_name in ("compute_cpu_seconds", "compute_wall_seconds",
"sleep_cpu_seconds", "sleep_wall_seconds"):
assert report[field_name] >= 0
print(json.dumps(report, indent=2))
if __name__ == "__main__":
main()预期输出:子进程在 8 秒等待预算内成功结束时,父进程校验哈希结果,打印计算阶段和休眠阶段各自的 CPU 时间与经过时间。通常休眠阶段的经过时间明显大于 CPU 时间,因为进程睡眠时不执行计算;休眠结束后,它还可能等待再次调度。因此,差值和比例随环境变化,不能作为固定断言或线上性能结论。
不同计时接口的分辨率、记账粒度与采样边界可能不同;很短的测量中,打印的 CPU 增量甚至可能略大于经过时间。可用 time.get_clock_info() 查看计时器信息,延长受控测量并重复观察,不用浮点数显示位数推断真实计时精度。
经过时间包含真正计算、等待和未获得 CPU 等多种因素。把经过时间减去 CPU 时间,并不能直接得到“调度队列等待”:锁、I/O、休眠和观测范围差异都可能在其中。
process_time() 的范围是进程,不是某一个请求或子进程树;多线程进程中它可能累计多个线程消耗。要归因单线程,还需要正确的线程级采样与业务时间边界。
7. 排障实战:怎样证明“轮不到 CPU”
先确认慢请求所在的实例和时间段,再依次区分应用排队、锁或 I/O 等待、可运行任务竞争、配额受限和绑定集合过窄。下面的命令用于观察目标线程与执行限制;单次状态快照不能证明整个慢请求期间线程一直在等 CPU。
bash
# Linux / procps:12345 替换为已确认的目标 PID,以下均为只读检查。
target_pid=12345
ps -L -p "$target_pid" -o pid,tid,stat,psr,pcpu,comm
grep -E '^(State|Threads|Cpus_allowed_list|voluntary_ctxt_switches|nonvoluntary_ctxt_switches):' "/proc/$target_pid/status"
# taskset 来自 util-linux;-p 查询指定任务,不修改亲和性。
taskset -pc "$target_pid"
# 安装 sysstat 时可做有限采样;结果按实际工具版本解释。
pidstat -u -w -t -p "$target_pid" 1 3读取累计计数时,应比较同一任务在故障时间窗口内的增量:启动以来切换很多,不等于当前请求因切换而变慢。ps 的 pcpu 也不能直接当成刚才采样间隔的 CPU 使用率;观察区间变化可结合 pidstat,并按工具口径解释。
/proc/<pid>/status 对应指定任务,不直接表示所有线程的切换次数合计。需要其他线程的属性时查询 /proc/<pid>/task/<tid>/status。psr 是相应观察中的 CPU 位置,不是未来固定绑定目标。
/proc/<pid>/task/<tid>/schedstat 可在支持并启用相应调度统计的系统中提供执行、运行队列等待和调度次数等计数;字段与可用性应查目标版本,未启用时不能从零值宣布“没有调度延迟”。这里属于可选证据,不是初学者必须配置内核的实验。
| 候选问题 | 支持证据 | 需要反证或补充 |
|---|---|---|
| CPU 计算过重 | 同窗口 CPU 时间与计算栈增加 | 并非所有延迟都与计算路径一致 |
| 就绪任务竞争 | 可用 CPU 上竞争与适用调度等待增量 | 区分应用队列、阻塞及配额,不只看 R |
| cgroup 节流 | 真实层级节流增量与长尾同步 | 不是累计发生过就能解释当前请求 |
| 亲和性过窄 | 线程允许集合小、局部 CPU 热点 | 确认绑定是否有业务原因,不贸然迁移 |
| 锁或 I/O 等待 | 重复等待栈、持有者或外部调用证据 | Java RUNNABLE 不足以排除原生等待 |
Linux Load Average,即平均负载,反映一段时间内可运行和部分不可中断等待任务数量的平均水平,不是 CPU 使用率。Load 高可能来自不同等待路径,CPU 与 Load 专项进一步比较执行、阻塞和有效配额;不要凭高 Load 直接加核。
8. 容易踩的坑与工程取舍
- 反例:RUNNABLE 就是正在消耗 CPU。正例:结合运行时状态、内核线程、同窗口 CPU 与等待证据。 两种状态体系不能直接一一映射。
- 反例:提高 nice 优先程度就能突破容器限制。正例:分别核对权重、带宽配额与允许 CPU 集合。 竞争优先程度不是总资源预算。
- 反例:加线程总能降低排队。正例:先确认计算、等待和下游预算。 线程增加可能更快耗尽配额或制造更多竞争。
- 反例:用 sleep 或 yield 保证另一个线程先完成。正例:用事件、锁、条件或完成结果表达同步。 让出 CPU 不提供指定线程执行顺序保证。
- 反例:生产服务绑核、实时优先级越多越专业。正例:在明确需求和回退方案下单变量验证。 可能伤害系统服务、负载均衡和故障恢复。
9. 名词解释与延伸阅读
| 名词 | 回查解释 |
|---|---|
| Scheduler / Run Queue | 选择执行任务的机制 / 组织可运行任务的结构 |
| Runnable / Running | 具备运行条件 / 当前正在 CPU 上执行 |
| Policy / Nice | 调度策略 / 普通任务相对优先程度参数 |
| FCFS / SJF / RR | 先来先服务 / 短作业优先 / 轮转的教学模型,不直接等同 Linux 实际策略 |
| CFS / EEVDF | 历史公平调度实现 / 按候选资格与虚拟截止时间选择任务的演进机制 |
| Virtual Runtime / Lag | 加权执行进度 / 公平服务应得与已得之间的差额 |
| Affinity / NUMA | 允许执行的 CPU 集合 / 内存访问成本与位置有关的架构 |
| Preemption / Context Switch | 暂时抢占执行 / 保存并恢复任务执行现场 |
| CPU Time / Elapsed Time | 实际执行消耗 / 从开始到结束的经过时长 |
- 自然后续:原子操作、自旋、阻塞与 futex,理解唤醒后为什么仍可能拿不到锁。
- 语言与容量:Java 线程池容量设计、虚拟线程,区分应用任务与内核调度层。
- 排障延伸:JVM 故障排查,把线程栈与 CPU 证据放进同一实例时间线。
- 依据:Linux 内核文档
scheduler/sched-design-CFS、scheduler/sched-eevdf、scheduler/sched-stats;Linux man-pages 的sched(7)、sched_setaffinity(2);Pythontime与subprocess文档。具体策略和计数以目标内核为准。
10. 一句话总结与三个要点
具备运行条件只是第一步,真正获得 CPU 还取决于调度规则、竞争范围和资源预算。
- 分开应用排队、内核就绪、实际执行与阻塞;唤醒不是立即执行,RUNNABLE 也不是 CPU 占用证明。
- nice、亲和性、调度策略与 cgroup 配额解决不同问题,不能互相替代。
- 用同窗口的 CPU、等待与限制证据做归因;先验证假设,再调整线程数或调度参数。