@may177 在 ubuntu本地部署模型有哪些推荐 中发帖
目前有一个128G显存的算力盒子,用的Ubuntu系统,部署了Ollama配套对应的webUI,用起来还行,但是看到有佬友说LM Studio不错,还了解到有llama.cpp,想咨询下各位佬友用哪个会比较友好,并且我打算将本地部署的模型接入到codex或者claude code中
[image]