cyoyo (@YOYOCAI) 在 qwen 3.8 27b模型硬件如何采购? 中发帖
有没有佬知道.目前要部署qwen 3.8 27b fp8,现在已经有一台服务器有4张L40s,目前考虑升级目前有两个方案,一个是购买4张L40s.还有一种是购买4台 dgx 运行nvp4版本.不支持哪个并发高.需要支持上下文128K如何选择