我在本地用 ComfyUI 跑视频生成,一镜到底 10 秒,20 步基线一次要 370 秒。为了提速,我去下了一个模型卡上标着「85% 稀疏注意力」的加速版。跑完三档对照,速度确实上来了:20 步 370 秒,8 步 170 秒,4 步 110 秒——最快那档 3.36 倍。但复盘的时候我发现一件反直觉的事:这次加速跟「稀疏注意力」一点关系都没有。标称的稀疏注意力,在我的工具链里根本不存在。

先做一句定位,避免跟我上一篇《35B 不等于 35B 显存》撞车:那篇算的是「能不能跑」,下载之前该算的显存账;这篇算的是「跑得值不值」,运行起来之后该算的时间账、收益账,外加一件事——标签上写的,和你机器上能调用的,是两回事。

一、标签上的能力,只存在于别人的运行时里

那个加速版我 sha256 逐字节比对过:1.96 GB,跟 HF 上完全一致,Apache-2.0 协议,货是真的。

但跑起来之后去查它的实现,才发现那个「85% 稀疏注意力」是 LightX2V 推理引擎里的运行时配置(attn_type: dynamic_sparse_attn)——它是那个特定引擎的开关。我用的是 ComfyUI,这个开关在我这边根本不存在。

所以结论很硬:我测出来的 3.36 倍加速,全部来自「20 步 → 4 步」的蒸馏,跟注意力稀疏无关。

这件事的教训比「踩了个坑」大。同一个权重文件,规格表上写的能力,取决于你用什么推理引擎去跑它。换一套工具链,那个能力就消失了——不是你买错了,是那份能力从来只存在于别人的运行时里,不在你手里的这份权重里。

顺带纠正一个误会:官方承诺的稀疏注意力(「初始开源版只给全注意力,稀疏实现后续单独发布」),到现在也还没发。真正的「Flash」是另一回事——9 月 27 日上线的 M3.1-Flash-Preview,那是文本/代码模型,跟视频生成无关。签到的双倍额度把它俩并列一提,就有人以为 H3 出了 Flash 加速版。没有。

二、跑得值不值,要记一本时间账

加速是真的,但值不值要算。我把三档数据放一起,反推出一个很干净的规律:

耗时 ≈ 固定开销 45 秒 + 每步 16.25 秒

8 步验算:45 + 130 = 175 秒,实测 170 秒,对得上。

这个式子一出来,很多东西就清楚了。4 步的时候,固定开销已经占了 110 秒里的 45 秒——四成。再往下压步数,收益递减得厉害:按这个式子,2 步大概 78 秒,1 步也要 61 秒。也就是说,就算你压到 1 步,那 45 秒的固定开销照样一分不少地等着你。

这跟《35B》里那套是同一种家法:把「值不值」从「跑完之后的印象」变成「跑之前的算术」。区别只在记的是哪本账——那边是下载前算显存,这边是跑起来算时间。

固定开销是个好东西,因为它不随你的参数变化。先跑一次最少步数,把它测出来,每步成本就反推出来了。之后你每想「再加一步 / 再压一步」值不值,拿这个式子一算就有数,不用靠感觉。

三、快,不等于更贴合

三档质量我抽帧肉眼比过:0.5 秒、2.5 秒、4.5 秒三帧拼起来看,人物、场景、线稿三档都一致,没有崩坏、没有灰屏,音频也都不是静音。快的那档没有明显掉链子。

但有一个差别:8 步和 4 步的版本「动得更厉害」——有推镜、表情更夸张。我 prompt 里写的是「疲惫地靠回去」,4 步版在 4.5 秒那帧给了一个夸张的笑脸。蒸馏版更「活泼」,但对提示词的贴合度松了一些。

这不是说蒸馏版不好,是说它跟你下指令之间的那条线,变松了。速度是拿什么换的?不一定是质量,可能是「听话」。这跟《35B》里「量化等级最后才牺牲」的那道质量断崖,是同一条纪律的另一个面:省钱省时间的时候,你得知道自己正在牺牲哪一样,而不是笼统地觉得「好像还行」。

四、立场收一句

规格表上的标签和你实际能支配的生产力之间,隔着一段落差——标称的能力常常只存在于别人的运行时里。为自己手里的生产条件核账,而不是为标签付费。算力是被定价的稀缺品,先算再跑,是把自己的劳动时间从别人的规格表里拿回来。

五、抄得走的三条

下次想给生成任务提速,按这个顺序来:

  1. 先测固定开销。 跑一次最少步数,用「总耗时 = 固定 + 步数 × 单步」反推每步成本。这个式子是你后面所有「值不值」判断的底账。
  2. 用式子找收益拐点。 固定开销占总耗时超过三到四成的时候,再降步数就是拿质量换一点点时间——先算清楚这笔交换,再决定。
  3. 分辨加速来源。 蒸馏给的速度,和注意力稀疏给的速度,是两笔账。模型卡上写的能力,要先确认它在你的工具链里真的存在,再决定要不要为它付费或投入时间。

一句诚实声明:上面三档是我自己单机实测的——同 prompt、同 seed、同首帧、同分辨率,对比是公平的;但「4 步能长期稳定用」没有经过多批次验证,别当成通用真理。另外有一条对不上的旧数据:以前记的「20 步 / 124 帧 / 1003 秒」,这次同配置只用了 370 秒,差 2.7 倍,原因我没查清,本文不拿它当结论。那张三档表是同一批条件下的公平对比,旧的 1003 秒别再当基线。