OpenAI_Q-Star 在 量化~~~~~ 中发帖
最近 Openai 开源的 GPT OSS
120B 只有~60GB 量化到这 模型能力必定降低
从此猜测 日常降智正是不同量化模型在上线
量化后的模型另一特征 token输出快
最近 Openai 开源的 GPT OSS
120B 只有~60GB 量化到这 模型能力必定降低
从此猜测 日常降智正是不同量化模型在上线
量化后的模型另一特征 token输出快