@blackhole 在 纯CPU跑Deepseek r1全量的内存需求是多少? 中发帖
想问一下单纯用cpu去跑deepseek r1版本,需要多少的内存?512G的能跑吗?或者这个内存大小能跑什么量化等级的deepseek r1?
如果有gpu,但是显存比较小的话,有什么提高推理速度的方法吗?