@liuhua 在 Qwen3.8-Flash-Next 部署细节(Strata + GSQ-RCO IQ3_XXS,单卡 16 GB) 中发帖
1. 模型
项目
值
模型
Qwen3.8-Flash-Next(Qwen 官方,2026-08-26)
结构
MoE:主模型 125B 总参 / 每 token 激活 6B;另有 51B N-gram embedding 表 + 约 4B MTP 头
层
48 层:36 层 GDN(线性注意力)+ 12 层 QSA(只有这 12 层需要 KV cache)
专家
每层 512 个 routed experts(48 × 512 = 24576),每 token 激活 10 个 + 1 个 shared
原生上下文
262144
推理
必须思考的推理模型;模板档位 xhigh(默认)/ medium / low,另可关闭思考
许可
基座 qwen-community-1.0(HF 上量化版元数据写 Apache-2.0,正文说继承基座许可,商用前自行...