官方说的「稀疏注意力」,在我机器上根本拿不到——一次视频生成加速的三档实测

我在本地用 ComfyUI 跑视频生成,一镜到底 10 秒,20 步基线一次要 370 秒。为了提速,我去下了一个模型卡上标着「85% 稀疏注意力」的加速版。跑完三档对照,速度确实上来了:20 步 370 秒,8 步 170 秒,4 步 110 秒——最快那档 3.36 倍。但复盘的时候我发现一件反直觉的事:这次加速跟「稀疏注意力」一点关系都没有。标称的稀疏注意力,在我的工具链里根本不存在。 先做一句定位,避免跟我上一篇《35B 不等于 35B 显存》撞车:那篇算的是「能不能跑」,下载之前该算的显存账;这篇算的是「跑得值不值」,运行起来之后该算的时间账、收益账,外加一件事——标签上写的,和你机器上能调用的,是两回事。 一、标签上的能力,只存在于别人的运行时里 那个加速版我 sha256 逐字节比对过:1.96 GB,跟 HF 上完全一致,Apache-2.0 协议,货是真的。 但跑起来之后去查它的实现,才发现那个「85% 稀疏注意力」是 LightX2V 推理引擎里的运行时配置(attn_type: dynamic_sparse_attn)——它是那个特定引擎的开关。我用的是 ComfyUI,这个开关在我这边根本不存在。 所以结论很硬:我测出来的 3.36 倍加速,全部来自「20 步 → 4 步」的蒸馏,跟注意力稀疏无关。 这件事的教训比「踩了个坑」大。同一个权重文件,规格表上写的能力,取决于你用什么推理引擎去跑它。换一套工具链,那个能力就消失了——不是你买错了,是那份能力从来只存在于别人的运行时里,不在你手里的这份权重里。 顺带纠正一个误会:官方承诺的稀疏注意力(「初始开源版只给全注意力,稀疏实现后续单独发布」),到现在也还没发。真正的「Flash」是另一回事——9 月 27 日上线的 M3.1-Flash-Preview,那是文本/代码模型,跟视频生成无关。签到的双倍额度把它俩并列一提,就有人以为 H3 出了 Flash 加速版。没有。 二、跑得值不值,要记一本时间账 加速是真的,但值不值要算。我把三档数据放一起,反推出一个很干净的规律: 耗时 ≈ 固定开销 45 秒 + 每步 16.25 秒 8 步验算:45 + 130 = 175 秒,实测 170 秒,对得上。 ...

October 10, 2026 · 1 min · 143 words · kwelldo