天下第一 (@mozhi0012)3b小模型如何选择服务器? 中发帖

想部署个3b小模型自己用,实测cpu只能有10token,太慢了。有没有性价比高的gpu服务器推荐?