之前的帖子： 

https://linux.do/t/topic/409758 


现在开始纠结模型了，本来想搞个deepseekV3 小参数模型的，但是貌似没有提供，R1倒是有，但是思考过程太慢了，个人觉得就知识库来说，是不是可以关掉特性，我看到vllm提供了相关参数，就是不知道是不是这个用途 
 [image] 
如果不可以的话就只能折腾qwen2.5了