xaszzx 在 Pro6000,256G内存,Qwen3.8-flash-next,实测数据,起飞,狂喷,还能怎么更好地利用? 中发帖
Strata (Qwen3.8-Flash-Next) 硬件与推理性能实测基准报告
本报告基于当前运行在 Linux 生产节点 上的 Strata 0.1.41 引擎、Qwen3.8-Flash-Next (IQ3_XXS) 混合专家大模型及 NVIDIA RTX PRO 6000 Blackwell 显卡的实时运行遥测数据。
一、硬件与系统计算环境
1.1 物理计算单元
硬件组件
型号规格
运行角色
实时利用率 / 状态
GPU
NVIDIA RTX PRO 6000 Blackwell (96 GB)
全量推理主力卡 (独占)
54,425 MiB 占用,空闲 43.5 GB
CPU
AMD EPYC 7543 (32 Cores / 64 Threads)
API 调度、Tokenization、批处理协调
负载 0.2% ~ 3.5%
系统内存
251....