@salmon 在 问各位佬个问题,如何部署deepseek14b成本如何最低? 中发帖
如题,最近为了跟风,领导让我和技术learder研究怎么部署成本最低😓,说实话我对硬件这东西不太懂,就问了下同事,因为我原同事刚刚部署了一套我,说14b推荐4090显卡+32内存应该么问题不卡,我就给learder说了下。他说这种gpt出来的时候我就知道了😂实际上他都没用过,无脑gpu肯定行,然后就说我刚看了一个文章,用arm架构的+内存就行,效果和那个一样成本还低,我说这个我不太懂,然后一下午都一直在问我研究的怎么样了,给他个方案😢,我也懒得搭理他,各位佬,他这种方案可行不,有啥坑没