@alibi_hu 在佬友们，需要跑内网本地大模型，服务器显卡选购求助中发帖目前服务器的cpu是Xeon Gold 5218，大概四块？总共64核

@alibi_hu 在佬友们，需要跑内网本地大模型，服务器显卡选购求助中发帖

目前服务器的cpu是Xeon Gold 5218，大概四块？总共64核。服务器只支持pcie 3.0，大概想跑7B或者14B的模型，后期需要构建本地知识库进行微调，请问各位佬友应该选什么显卡比较好？