JVM GC 低延迟选型:G1、ZGC、Shenandoah 与停顿预算合同

JVM GC 低延迟选型:G1、ZGC、Shenandoah 与停顿预算合同

Hello,我是小兔大白糖。 接口 p99 刚压到预算边缘,监控里却冒出一截「业务没干、线程全停」的空白——排障到最后,经常不是下游慢,而是 GC(Garbage Collection,垃圾回收)的 STW(Stop-The-World,停世界)把延迟合同吃掉了。写成这篇,给熟悉 -Xmx、线程池与超时重试,却还把「堆开大一点」当 GC 解药的后端同学:做一次业界向的低延迟 GC 选型调研。

说明:停顿数字、堆大小与压测结论均为教学示意 / 脱敏,不绑定某司业务栈或内部参数墙。读完带走的是心智模型与取舍清单,不是备考提纲,也不是某仓库的 JVM 模板。

估计阅读时间:12 分钟


目录


为什么现在要关心

GC 停顿是容量合同的一部分:p99 延迟预算里要扣 STW;不是「调大堆就好」。

现场里常见的误伤:

你看到的现象常见真相
业务日志空窗几十到上百毫秒,下游超时扎堆某次 Young / Mixed / Full GC 的 STW 撞上峰值
-Xmx 翻倍,尾延迟反而更抖堆更大,单次可回收区域更大;目标停顿没写清时,波动被放大
吞吐 benchmark 好看,线上 p99 炸批处理收集器优化的是单位时间完成量,不是尾延迟
「低延迟链路必须上某款收集器」空话没先写清延迟预算、分配速率与 JDK 版本边界
新系统默认还在 CMS 叙事里CMS 已退场;现代服务端默认叙事是 G1,超低停顿再谈 ZGC / Shenandoah

和系列里线程池「容量合同」同一类问题:你以为在拧性能旋钮,其实在谈失败形态是否可预期。本文钉四件事——停顿进预算、不可能三角、主流收集器代价表、选型时别用参数墙代替测算。


心智模型:清场与容量合同

主比喻:高峰期餐厅清场(STW)+ 座位容量合同(延迟预算)。

服务员(GC)不收盘子(垃圾),桌子很快摆不下新菜(OOM,Out Of Memory)。但清场时客人必须停筷——这就是 STW。不同收集器像不同清场策略:整厅一起清、分区清、尽量边吃边清。

p99 延迟预算示意:业务处理、排队与 IO、GC STW 共同占用延迟合同
p99 延迟预算示意:业务处理、排队与 IO、GC STW 共同占用延迟合同 · 点击查看 SVG 原图
比喻角色JVM / 选型对应人话
桌子面积堆大小(-Xms / -Xmx)更大不等于更稳;清场范围也可能更大
清场停筷STW 停顿计入接口尾延迟,不是「后台悄悄发生」
「尽量 N 分钟内清完一块区」G1 的停顿目标(如 MaxGCPauseMillis)目标是合同意向,不是物理保证
「几乎感觉不到停筷」ZGC / Shenandoah 一类低停顿路径账单往往在吞吐、内存足迹、版本成熟度

类比局限一句说清:清场解释「为什么要停、停多久进预算」;解释不了具体屏障实现、染色指针位图,也解释不了业务上「这次超时能不能赔得起」——那是 SLA,不是 GC 条款。


精确定义:吞吐、停顿、足迹

先写清优化目标,再选收集器;三者通常不可兼得。

指标合同含义低延迟链路怎么读
Throughput(吞吐)应用线程有效运行时间占比批处理、离线任务常优先;在线接口次之
Latency / Pause(停顿)STW 持续时间与分布p99 / p999 预算里要显式留坑
Footprint(足迹)GC 自身内存与元数据开销低停顿路径常多付一点内存或 CPU

硬边界(分享向够用):

  1. 并发标记 / 并发整理 ≠ 零停顿——现代低延迟收集器仍有短暂 STW(如根扫描、阶段切换);谈的是「把停顿压到可进预算」,不是魔法消失。
  2. Young / Minor GC、Mixed GC、Full GC 影响面不同——Eden 打满的年轻代回收通常更常见;Full GC 往往是事故信号,不是「调优旋钮」。
  3. CMS 不作为新系统默认方案——公开演进路径上已废弃并移除;新服务用当代默认(常见是 G1)或明确的低停顿收集器。

和「调大堆」的关系

堆是容量,不是延迟开关。堆变大可以降低 GC 频率,但单次可回收工作量与整理成本也可能上升。低延迟选型先问:预算允许多长 STW、分配有多凶、JDK 版本能不能支撑目标收集器——再谈 -Xmx。


模式对照:G1 / ZGC / Shenandoah / Parallel

业界常见四条路:可控停顿默认、超低停顿大堆、另一条低停顿实现、吞吐优先批处理——每条都有代价。

收集器选型分流:G1 可控停顿、ZGC 超低停顿大堆、Parallel 吞吐优先
收集器选型分流:G1 可控停顿、ZGC 超低停顿大堆、Parallel 吞吐优先 · 点击查看 SVG 原图
收集器直觉你多买到什么主要代价
G1Region 化堆 + 停顿目标导向;现代服务端默认叙事可预期的停顿目标与分区回收;调的是目标与回收节奏,不是盲目堆参数调参面仍在;目标设过激可能换来更频繁回收、吞吐变差
ZGC冲亚毫秒级停顿、大堆友好(公开能力叙事)把 STW 压到很短,适合延迟预算极紧、堆较大的在线路径吞吐与内存足迹;对 JDK 版本与压测成熟度更敏感
Shenandoah与 ZGC 同属「低停顿」赛道,实现路径不同(如转发指针一类设计)另一条公开可用的低停顿选项(视发行版 / OpenJDK 构建)同样要付 CPU / 吞吐账单;选型看版本支持与运维熟悉度,不是品牌口号
Parallel多线程 STW,吞吐优先批处理、离线任务单位时间干更多活停顿可能明显大于在线预算;别拿吞吐榜单直接指导低延迟链路

分享向默认推荐(通用服务,非内部定档):

  • 大多数在线服务、延迟预算「可控即可」 → 先 G1:写清停顿目标,观察 GC 日志与 p99,再动少数公开旋钮。
  • 预算已逼近亚毫秒~数毫秒、堆明显偏大、JDK 版本够新 → 评估 ZGC(或发行版支持的 Shenandoah);用同负载压测比停顿 与 吞吐,不单看广告数字。
  • 纯批处理 / ETL → Parallel 或吞吐导向配置往往更贴;别把低延迟收集器当默认「更高级」。

代价必须写进选型:低停顿买的是尾延迟形态,卖的是 CPU、足迹或吞吐;G1 买的是可预期目标,卖的是「目标不是物理保证」。

公开能力边界(不写参数墙)

只需记住选型级公开开关与版本感,不必背内部模板:

# 教学示意:先选收集器族,再在压测里收敛目标
# G1(现代 JDK 服务端常见默认叙事)
-XX:+UseG1GC
-XX:MaxGCPauseMillis=<目标毫秒,示意;过小可能伤吞吐>

# ZGC(需核对你所用 JDK / 发行版是否生产可用)
-XX:+UseZGC
# JDK 21+ 常见还会讨论分代 ZGC(如 ZGenerational)——以官方发行说明为准

刻意不贴:某司内部 JAVA_OPTS 长墙、未公开调优手册、把「风控必须 ZGC」写成结论。公开文章停在模式 + 代价 + 预算测算。


教学场景:先写预算,再开收集器

三个最小场景;代码刻意少,结论应能离开参数独立成立。

1)延迟预算表——先算再选

教学伪流程:

p99_budget_ms = 业务处理 + 排队/池等待 + 下游 IO + GC_STW_allowance
# 示意:若预算 80ms,业务+IO 已占 60ms,则 GC_STW_allowance 只剩约 20ms 量级
# → 收集器与停顿目标必须落在 allowance 内,而不是「堆越大越好」

适合:任何声称低延迟的在线接口。
不适合:只贴吞吐 TPS 数字就宣布「GC 没问题」。

2)G1:停顿目标是意向,不是物理定律

把 MaxGCPauseMillis 理解成给预测模型的目标。设得过小,常见副作用是回收更碎、更勤,吞吐与 CPU 账单上升——延迟未必真按数字兑现。

3)迁 ZGC / Shenandoah:对比的是分布,不是平均值

同负载下至少盯:

看什么为什么
GC 停顿 p99 / 最大是否进延迟预算
应用吞吐 / CPU低停顿是否用吞吐或 CPU 换来的
堆占用与分配失败足迹与整理是否扛得住峰值分配
Full GC / 退化路径是否出现低频长停顿往往比「平均很好」更伤 SLA

数字一律当示意:换机器、换分配形状、换 JDK,结论都要重测。


常见坑

  1. 只看吞吐 benchmark 选 GC
    批处理冠军收集器,可能把在线 p99 打穿。

  2. 低延迟链路却用大停顿收集器
    预算表没写 STW 一行,上线后用下游超时替 GC 背锅。

  3. 用「必须上 ZGC」空话代替延迟预算测算
    没有 allowance、没有同负载对比,只是换了一个时髦开关名。

  4. 把 MaxGCPauseMillis 设成幻想值
    目标越激进,越可能换来更频繁 GC;先观测,再小步收紧。

  5. 小堆场景为了「高级」硬上超低停顿收集器
    固定开销与运维复杂度可能不划算;小中堆、预算宽松时 G1 往往够用——以压测为准,不写死阈值神话。

  6. Humongous / 大对象分配把年轻代策略打歪
    频繁超大对象会改变回收形态;优先减分配或对象生命周期设计,而不是先堆内部参数墙。

  7. 无 GC 日志 / 无停顿指标就上线
    出问题只能猜。至少打开统一日志或 MXBean 停顿观测,把 STW 和接口 p99 放在同一张排障图上。

  8. 新系统仍以 CMS 为默认叙事
    历史文章很多;公开主线上 CMS 已退场。新项目别再把它当默认答案。


选型结论

  1. 先把 GC STW 写进 p99 预算;堆大小是容量旋钮,不是延迟开关。
  2. 通用在线服务默认从 G1 的停顿目标叙事起步;调的是目标与回收节奏,不是盲目 -Xmx。
  3. ZGC / Shenandoah 用于「预算极紧 + 大堆 + 版本支持」;用压测同时验收停顿与吞吐/足迹,不单看宣传数字。
  4. Parallel 留给吞吐优先的批处理;别拿吞吐榜指导低延迟链路。
  5. CMS 退出默认候选;公开文章与新系统选型都以当代收集器说话。
  6. 公开分享停在模式与代价;内部参数墙、某厂未公开手册,不写进可转发正文。

下一步:给核心接口列一张「延迟预算拆分表」(业务 / 排队 / IO / GC allowance)→ 在预发用同一负载对比当前收集器与候选收集器的停顿分布与吞吐 → 只有 allowance 明确吃紧时,再评估 ZGC / Shenandoah。

系列导航:

  • 已发布:/blog/java_threadpool_params_and_isolation/(java-core-deep seriesOrder 1)— 线程池七参数与快慢路径隔离
  • 已发布:/blog/java_jmm_volatile_synchronized/(seriesOrder 2)— JMM、volatile 与 synchronized
  • 本篇(seriesOrder 6):JVM GC 低延迟选型(G1 / ZGC / Shenandoah)
  • seriesOrder 3~5(CompletableFuture / CAS 与 StampedLock / 并发容器)发布后在此补互链 /blog/<slug>/