cherrybeal 在 关于自动部署 qwen3.8-27b-uncensored 中发帖
我现在有 A100,里面有 8 卡,每卡 40G 显存,现在需要 4 卡用来部署 qwen3.8-27b-uncensored,另外的 4 卡部署 minimax-h3,使用人数大约 10 人以内,想请问下大家,qwen3.8-27b-uncensored 可以用哪个版本,精度可以用到哪个?