炫彩小鱼干 (@Yuookie) 在甚至可以跑Qwen 9B的Q4量化版本！显卡：5060 8GB 中发帖效果如图，48token/s 这个模型的性能很惊喜 [图片] [图片]

炫彩小鱼干 (@Yuookie) 在甚至可以跑Qwen 9B的Q4量化版本！显卡：5060 8GB 中发帖

效果如图，48token/s 
这个模型的性能很惊喜 
 [图片] 
 [图片]