OpenAI_Q-Star量化~~~~~ 中发帖

最近 Openai 开源的 GPT OSS 
120B 只有~60GB 量化到这 模型能力必定降低
从此猜测 日常降智正是不同量化模型在上线
量化后的模型另一特征 token输出快