Leeszzz 在公司给配的工作站，佬们帮忙看看可以本地部署多大的模型中发帖配置清单：CPU：英特尔 Xeon(R) Gold 6240 , 36核72线程内存：512g显卡：两张英伟达 RTX A5000，每张是24G显存佬们有什么模型推荐? [image]

Leeszzz 在公司给配的工作站，佬们帮忙看看可以本地部署多大的模型中发帖

配置清单：

CPU：英特尔 Xeon(R) Gold 6240 , 36核72线程
内存：512g
显卡：两张英伟达 RTX A5000，每张是24G显存


佬们有什么模型推荐? 


 [image]