XTer 在 据说比Qwen27B强的本地模型Nanbeige4.3-33B,做了量化版本,可以在A100 40G上运行 中发帖

从 BOSS直聘LLM团队开源Nanbeige4.3-33B 性能优于Qwen3.8-27B 继续 
[image]
据说比 Qwen27B 牛逼
开源链接:


主要我用的是colab A100 40G所以是Q5,此外还有一个uncensored版模型明天放出