小勇 (@asdz)模型BF16、Q8、Q4量化性能损失到底有多大 中发帖

例如Qwen3.8,有没有大佬实测体验过,给一个性能损失和速度提升的大概感受