Data Analytics report

Qwen3.8-Flash-Next ngram 的 FP8 量化损失

BF16 与官方 FP8 ngram embedding 的全量权重空间误差分析。

技术摘要

  • 整体方向保持良好，但不是无损。 展平 51,200,231,360Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding 个有效权重后，余弦相似度为 0.999645413Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding（距离 354.59Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding ppm），相对 L2 为 2.6636%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding，对应 SQNR 31.49Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding dB。
  • 误差高度均匀。 128Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding 个分片的相对 L2 极差只有 0.000792Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding 个百分点；16Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding 个 head 的极差为 0.000268Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding 个百分点，没有单一分片或 head 主导损失。
  • 行级长尾仍需关注下游验证。 抽样行余弦 P0.1 为 0.999481Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding，全量最小值为 0.999289Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding；低于 0.999Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding 的全量行占 0.000000%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding，低于 0.9995Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding 的全量行占 0.280381%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding。
  • 编码健康。 FP8 饱和率为 0.00000000%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding，非零 BF16 值下溢为 FP8 零的比例为 0.00206052%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding，未发现 FP8 NaN。
Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding

流式读取两个 safetensors 快照，按 checkpoint 的 BF16 weight_scale 反量化 F8_E4M3FN，并计算全量元素、分片、head 与行级误差。

全局余弦相似度

1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding

全部有效 ngram 权重展平后的方向一致性。

全部有效 ngram 权重展平后的方向一致性。Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding

流式读取两个 safetensors 快照，按 checkpoint 的 BF16 weight_scale 反量化 F8_E4M3FN，并计算全量元素、分片、head 与行级误差。

相对 L2

2.7%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding

FP8 反量化权重相对 BF16 基线的能量误差。

FP8 反量化权重相对 BF16 基线的能量误差。Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding

流式读取两个 safetensors 快照，按 checkpoint 的 BF16 weight_scale 反量化 F8_E4M3FN，并计算全量元素、分片、head 与行级误差。

SQNR

31.49Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding

由全量相对 L2 换算的信号量化噪声比。

由全量相对 L2 换算的信号量化噪声比。Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding

流式读取两个 safetensors 快照，按 checkpoint 的 BF16 weight_scale 反量化 F8_E4M3FN，并计算全量元素、分片、head 与行级误差。

行余弦 P0.1

1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding

每分片等距抽样 4,096 行后的行余弦第 0.1 百分位。

每分片等距抽样 4,096 行后的行余弦第 0.1 百分位。Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding

流式读取两个 safetensors 快照，按 checkpoint 的 BF16 weight_scale 反量化 F8_E4M3FN，并计算全量元素、分片、head 与行级误差。

分片方向误差稳定，没有系统性漂移

全局余弦距离为 354.59Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding ppm。最差分片是 shard 065，余弦相似度 0.999645295Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding；最好分片是 shard 036。下图使用 ppm 放大余弦距离，用来检查连续 vocab 区间是否出现突变；曲线若保持窄幅波动，说明量化损失是全局性的均匀噪声，而不是局部损坏。

Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding

流式读取两个 safetensors 快照，按 checkpoint 的 BF16 weight_scale 反量化 F8_E4M3FN，并计算全量元素、分片、head 与行级误差。

各分片余弦距离
各分片余弦距离 data
分片编号余弦距离 (ppm)
0354.62
1354.62
2354.58
3354.6
4354.62
5354.54
6354.57
7354.59
8354.57
9354.55
10354.63
11354.58
12354.59
13354.64
14354.58
15354.61
16354.59
17354.53
18354.59
19354.56
20354.58
21354.59
22354.59
23354.56
24354.52
25354.51
26354.53
27354.6
28354.57
29354.51
30354.57
31354.61
32354.55
33354.55
34354.57
35354.58
36354.5
37354.6
38354.59
39354.63
40354.57
41354.6
42354.53
43354.6
44354.56
45354.57
46354.57
47354.52
48354.54
49354.59

128 results · Showing first 50

相对 L2 的最差分片仍贴近整体水平

整体相对 L2 为 2.6636%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding。最差分片 shard 065 为 2.6641%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding，最好分片 shard 036 为 2.6633%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding。图中只显示最差 12Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding 个分片；绝对高度比内部排名更重要，因为它回答是否存在需单独保留 BF16 的异常分片。

Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding

流式读取两个 safetensors 快照，按 checkpoint 的 BF16 weight_scale 反量化 F8_E4M3FN，并计算全量元素、分片、head 与行级误差。

相对 L2 最高的 12 个分片
相对 L2 最高的 12 个分片 data
分片相对 L2 (%)
shard 0652.66
shard 1152.66
shard 1142.66
shard 0772.66
shard 0662.66
shard 1082.66
shard 0792.66
shard 0692.66
shard 0762.66
shard 0682.66
shard 0132.66
shard 0752.66

误差最高分片明细

Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding

流式读取两个 safetensors 快照，按 checkpoint 的 BF16 weight_scale 反量化 F8_E4M3FN，并计算全量元素、分片、head 与行级误差。

误差最高分片明细
分片相对 L2余弦相似度余弦距离 (ppm)SQNR (dB)行余弦 P0.1下溢到零
shard 0652.7%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding354.71Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding31.49Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding0%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding
shard 1152.7%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding354.66Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding31.49Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding0%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding
shard 1142.7%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding354.66Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding31.49Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding0%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding
shard 0772.7%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding354.65Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding31.49Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding0%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding
shard 0662.7%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding354.65Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding31.49Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding0%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding
shard 1082.7%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding354.64Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding31.49Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding0%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding
shard 0792.7%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding354.64Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding31.49Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding0%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding
shard 0692.7%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding354.64Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding31.49Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding0%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding
shard 0762.7%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding354.64Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding31.49Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding0%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding
shard 0682.7%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding354.64Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding31.49Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding0%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding
shard 0132.7%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding354.64Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding31.49Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding0%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding
shard 0752.7%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding354.64Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding31.49Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding0%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding

Head 聚合没有暴露集中风险

按 checkpoint 的 16Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding 组 ngram_heads_offsets / ngram_heads_vocab_sizes 聚合后，相对 L2 最高的是 head 08（2.6638%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding），最低的是 head 03（2.6635%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding）。这降低了某个 ngram head 被量化误差单独破坏的可能性，但不能替代模型输出层面的评测。

Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding

流式读取两个 safetensors 快照，按 checkpoint 的 BF16 weight_scale 反量化 F8_E4M3FN，并计算全量元素、分片、head 与行级误差。

16 个 ngram head 的全量误差

Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding

流式读取两个 safetensors 快照，按 checkpoint 的 BF16 weight_scale 反量化 F8_E4M3FN，并计算全量元素、分片、head 与行级误差。

16 个 ngram head 的全量误差
Head有效行数相对 L2余弦相似度余弦距离 (ppm)SQNR (dB)行余弦 P0.1
head 0820,000,081Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding2.7%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding354.62Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding31.49Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding
head 0920,000,093Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding2.7%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding354.62Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding31.49Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding
head 1420,000,161Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding2.7%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding354.62Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding31.49Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding
head 1220,000,153Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding2.7%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding354.6Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding31.49Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding
head 1320,000,159Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding2.7%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding354.59Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding31.49Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding
head 0120,000,023Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding2.7%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding354.6Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding31.49Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding
head 1120,000,147Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding2.7%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding354.59Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding31.49Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding
head 1520,000,171Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding2.7%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding354.59Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding31.49Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding
head 0020,000,003Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding2.7%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding354.59Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding31.49Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding
head 1020,000,107Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding2.7%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding354.58Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding31.49Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding
head 0620,000,069Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding2.7%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding354.58Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding31.49Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding
head 0420,000,059Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding2.7%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding354.57Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding31.49Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding
head 0220,000,033Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding2.7%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding354.57Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding31.49Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding
head 0520,000,063Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding2.7%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding354.57Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding31.49Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding
head 0720,000,077Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding2.7%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding354.56Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding31.49Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding1Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding

16 results · Showing first 15

比较范围与指标定义

比较对象是 BF16 快照 Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540 与 官方 FP8 快照 Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce。两边 128Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding 个 ngram 权重分片名称、形状和 head 元数据完全一致；每片形状为 2,500,012 × 160。分析保留 320,001,446Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding 个有效 vocab 行，排除末尾 90Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding 个 padding 行。

余弦衡量方向保持；L2 衡量绝对欧氏误差；相对 L2 用 BF16 权重范数归一化；SQNR 将相对 L2 转为 dB。RMSE/MAE 用于解释逐元素误差，行级余弦则把每个 160Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding 维 embedding 独立看作向量。

Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding

流式读取两个 safetensors 快照，按 checkpoint 的 BF16 weight_scale 反量化 F8_E4M3FN，并计算全量元素、分片、head 与行级误差。

FP8 反量化与全量计算方法

ngram_embedding 在 FP8 checkpoint 中存为 F8_E4M3（PyTorch/safetensors 的 E4M3FN），并带一个共享 BF16 weight_scale = 0.0001993179321。反量化公式是 Q = decode_E4M3FN(code) × weight_scale；这里没有套用模型配置中其他线性层使用的 128Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding×128 block scale。

脚本逐块流式扫描 51,200,231,360Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding 个元素，所有总体、分片、head、均值、极值和行余弦阈值率都是全量精确统计。分位数使用每分片 4,096Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding 个等距有效行的确定性样本；行样本总数为 524,288Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding。

Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding

流式读取两个 safetensors 快照，按 checkpoint 的 BF16 weight_scale 反量化 F8_E4M3FN，并计算全量元素、分片、head 与行级误差。

限制、稳健性与可解释边界

存储 scale 与令已量化码值最小化 L2 的事后最优单一 scale 相差 0.066372%Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding，说明结论不是由明显错误的 scale 造成。FP8 最大可表示绝对值对应的 scale 与 BF16 全局最大值推导的 scale 比为 0.999317Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding，并结合极低饱和率检查截断风险。

本报告只度量 checkpoint 权重空间损失，不建立对推理质量、logit、困惑度或 ngram 命中率的因果结论。行分位数是抽样估计，但全量行均值、最小值及阈值计数用于交叉约束长尾判断。

Source: 本地 Hugging Face ngram 全量扫描Tables: Qwen/Qwen3.8-Flash-Next@de4b8e4d43b917e7706784d8bb445c9af86a3540::ngram_embedding, Qwen/Qwen3.8-Flash-Next-FP8@bcd9f01ddc9cff2316eb84281bebcd5b058bddce::ngram_embedding

流式读取两个 safetensors 快照，按 checkpoint 的 BF16 weight_scale 反量化 F8_E4M3FN，并计算全量元素、分片、head 与行级误差。

建议的下一步

  1. 用固定 prompt/token 序列同时跑 BF16 与 FP8，记录 ngram/PLE 输出的逐 token 余弦、相对 L2 与最大绝对误差。
  2. 在端到端生成上比较 logits KL、top-k 重合率、固定种子输出一致性和任务指标，确认 2.66% 权重相对 L2 是否被后续网络放大。
  3. 若只能做选择性回退，优先按行级低余弦样本定位 vocab/哈希桶，而不是按分片或 head 整体回退；当前证据没有支持某个完整分片必须保留 BF16。

仍待回答的问题

  • ngram_embedding 的真实访问频率是否均匀？未加权权重误差可能高估冷门桶、低估高频桶的实际影响。
  • 最低行余弦对应的 ngram/vocab 桶在真实语料中是否常被命中？
  • PLE 后续卷积、投影和门控对这类近似均匀噪声是抑制还是放大？

Sources

  1. 本地 Hugging Face ngram 全量扫描results/summary.json · duckdb · 2026-08-27T18:12:54+08:00

    流式读取两个 safetensors 快照，按 checkpoint 的 BF16 weight_scale 反量化 F8_E4M3FN，并计算全量元素、分片、head 与行级误差。

    SQL query
    CREATE VIEW ngram_summary AS SELECT * FROM read_json_auto('results/summary.json');
CREATE VIEW ngram_shards AS SELECT * FROM read_csv_auto('results/per_shard_metrics.csv', header = true);
CREATE VIEW ngram_heads AS SELECT * FROM read_csv_auto('results/per_head_metrics.csv', header = true);
SELECT * FROM ngram_summary;