yeyucca 在 qwen 3.8 27B 5090单卡，256k上下文，promp fill 2.5-3k/s, decode 峰值可以在130+tks/s,均值在90tks/s 中发帖Qwen3.8-27B-UD-Q5_K_XL.gguf 权重20GB，ckv 给到q4_0，加上mtp flag，enjoy 搭配Grok build，风味就很不错，生成质量跟deepseek v4 flash 0731一个级别，甚至略超（当然仅仅我跑了一个前端用例），但27B可是单张卡就做到了，dsv4 0731要三张卡，从思考模式来讲，后台给的reason effort开的xhigh [image] [image]

yeyucca 在 qwen 3.8 27B 5090单卡，256k上下文，promp fill 2.5-3k/s, decode 峰值可以在130+tks/s,均值在90tks/s 中发帖

Qwen3.8-27B-UD-Q5_K_XL.gguf  权重20GB，ckv 给到q4_0，加上mtp flag，enjoy 
搭配Grok build，风味就很不错，生成质量跟deepseek v4 flash 0731一个级别，甚至略超（当然仅仅我跑了一个前端用例），但27B可是单张卡就做到了，dsv4 0731要三张卡，从思考模式来讲，后台给的reason effort开的xhigh 
 [image] 
 [image]