Mjy713 在 目前本地运行最合适的模型是哪个 中发帖
刚看到一篇帖子,说在macmini上跑glm5.2,3-9tok/s,几乎不能用。所以哪个模型是本地跑最有性价比的,速度可以在20-30之间,又不至于太拉胯。
刚看到一篇帖子,说在macmini上跑glm5.2,3-9tok/s,几乎不能用。所以哪个模型是本地跑最有性价比的,速度可以在20-30之间,又不至于太拉胯。