h3-motioncontrol · 常驻 vs 流式 实测
起因是代码注释里一句「权重常驻比 group-offload 快约 5 倍」。实测把它证伪了，而且顺带发现改动前的生产模式才是最慢的那个。
三种模式，同一负载
唯一变量是权重放置。三种模式的量化、编译、attention 后端、H3_MEMOPT=1、--denoise-evict-vae、--vae-fp16 全部相同。
768×1376（16:9）· 单条端到端
480×832 · 单条端到端
| 分辨率 | 模式 | 端到端 | 去噪每步（稳态） | 峰值显存 | vs 三相 |
|---|---|---|---|---|---|
| 768×1376 16:9 |
三相 | 137.6s | 20.9s | 26.8 GiB | — |
| 真常驻 | 105.0s | 21.0s | 29.8 GiB | −23.7% | |
| 流式 | 105.5s | 21.3s | 10.9 GiB | −23.3% | |
| 480×832 | 三相 | 55.1s | 5.07s | 22.2 GiB | — |
| 真常驻 | 39.0s | 5.07s | 27.8 GiB | −29.2% | |
| 流式 | 41.5s | 5.73s | 8.9 GiB | −24.7% |
为什么「5 倍」不成立
三种模式的去噪每步时间几乎相同（768p 20.9 / 21.0 / 21.3s；480p 5.07 / 5.07 / 5.73s）。差别根本不在算力，全在 job 级的搬运开销：
- 三相把整个约 19.5 GiB 的 fp8 transformer 在每个 job 里搬上去一次、解码前再搬下来一次。实测这份税 768p 约 32.6s/条、480p 约 16.1s/条（fl2va 当年记录的是 27.8s，量级吻合）。
- 真常驻把它彻底消掉 —— 权重进卡后就不动了。这正是 fl2va 迭代出来、而 h3mc 一直没有的模式。
- 流式把同样的搬运摊进每一步：每步过一遍约 19.5 GiB，按 PCIe ~25 GB/s 约 0.8s。768p 每步 21s → 摊薄成 ~4%；480p 每步 5s → ~16%。实测的 +1% 和 +13% 正落在这个量级。
那 5 倍是哪来的？最可能是 bf16 时代量的：不量化时权重 62 GiB，要搬的量是现在的 3.2 倍，而每步算力不变 —— 那种情况下 480p 出现数倍差距是合理的。fp8 之后这个成本基本消失了。
顺带纠正：改动前的生产不是「常驻」
h3mc 生产此前跑的命令行里没有 --offload，走的是代码里的另一条分支 —— 三相换相，不是常驻。真正的常驻模式（--resident，权重进卡就不动）是 fl2va 上迭代出来的，这次才回移到 h3mc。
if args.offload: enable_group_offload(...) # 流式,逐块+重叠预取
elif args.resident: transformer.to("cuda") 永久驻留 # ← 本次才补上
else: 每 job 整块 20 GiB 搬上搬下 # ← 改动前生产走这条
所以切到流式之后 768p 5s 从 137.6s → 105.5s、480p 5s 从 55.1s → 41.5s，不但没变慢，还快了约四分之一。我此前说「短片变慢了」是错的。
768p 15s 容量（同一批工作的另一半）
流式省下的那 19 GiB，换来的就是这个：768p 从只能 5s 变成能做 15s。以下均为 362 帧 = 15.083s，单进程实测。
| 几何 | 比例 | 打包序列 | 峰值显存 | 结果 |
|---|---|---|---|---|
| 768×1312 | ≈9:16 | 213,104 行 | 23.1 GiB | 通过 |
| 768×1376 | 16:9 | 218,240 行 | 23.5 GiB | 通过 |
| 1792×768 | 21:9 · 参考降 480p | 202,511 行 | 23.9 GiB | 通过 |
| 1792×768 | 21:9 · 参考不降 | 290,144 行 | — | OOM |
规则据此定为：16:9 及更方的比例用 768p 参考；超过 16:9 时把视频参考降到 480 短边（输出分辨率不动）。依据是视频参考占了打包序列的约 88%，而参考画布跟着目标长边走 —— 撑爆显存的是它，不是输出。
从 fl2va 回移了什么
--resident真常驻模式 —— h3mc 此前没有，一直在用三相。本次最有价值的一项。--denoise-evict-vae、H3_MEMOPT=1（位级不变）、--max-duration、--vae-fp16、--vae-tile、--refencode-evict-transformer、--trim-cond、stats/per-NFE 计时。- THP 防护（
PR_SET_THP_DISABLE）+faulthandler—— 治「解码前挂死」，挂死时可kill -USR1抓栈。 - 新增（非回移）：
--wide-ref-short-edge宽比例降参考规则。
还没做完的：--quantized-ckpt（fp8 .pt 直载，worker 冷启动 ready 41s→19s）。它只影响启动、不影响单条速度，所以没有阻塞这次测试。
口径
- 速度数据全部是 124 帧（5.17s）。768p 的 10s / 15s 没有对照 —— 常驻在那两档会 OOM，只有流式跑得了，所以不存在可比的常驻数字，本页也不拿 5s 的比值去外推。
- 热态 = 每进程 3 条里去掉第 1 条（含 torch.compile 预热），取后 2 条平均。
- 4 卡满载并发（GPU4–7），与生产同量级；生产服务在 GPU0–3 上照常运行未受影响。
- 画质只做了「帧数完整、非噪声」的机器校验，肉眼终审未做。这个模型 PSNR 在噪声地板附近没有区分力，只能靠看。