alphaply有没有人试过在本地部署小模型(而且还是量化后的),体验如何,有什么价值可以挖掘吗? 中发帖

这是来自ollama的截图。 
[image]
有没有人试过本地部署量化后的模型表现是啥样的。