Qwen3 本地部署归档文档
服务器：HuaKun AT800 (Model 3000) / Atlas 300I Duo / Ascend 310P3

归档日期：2026-07-07 
状态：Qwen3-32B-W8A8SC 已成功部署，并通过 /v1/models、/health 验证；公网暴露方案已设计（待实施） 


1. 硬件与环境




项目
规格




服务器
HuaKun AT800 (Model 3000)


CPU
鲲鹏920 (ARM64 / aarch64)


NPU
2×Atlas 300I Duo = 4×Ascend 310P3


NPU 显存
合计约 192GB（每卡约 48GB）


OS
Ubuntu 22.04.5 LTS，内核 5.15.0-185-generic


推理框架
vLLM-Ascend v0.22.1rc1-310p


工...