a.zhai (@JackZhai)【DGX Spark教程系列-LLM部署】从0部署Qwen3.6-27B-NVFP4 中发帖

导师搞了台DGX Spark,说要部署一个大模型进去,关于DGX的中文部署教程目前并不算多,和各位佬友分享一下这次部署过程完整,顺手写一篇教程。 
这里计划部署的模型是AEON-7/Qwen3.6-27B-AEON-Ultimate-Uncensored-NVFP4 · Hugging Face
一、安装Conda环境
执行命令,下载ARM64 版本的 Miniforge
cd ~
wget -O Miniforge3-Linux-aarch64.sh \
https://mirrors.tuna.tsinghua.edu.cn/github-release/conda-forge/miniforge/LatestRelease/Miniforge3-Linux-aarch64.sh

为了避免国内网络问题这里使用了清华源
下载结束后安装:
bash Miniforge3-Linu...