爱发呆的二货 (@basser) 在 求助,想搭建本地AI,请佬友推荐显卡 中发帖
想自己搭建本地LLM,做垂直训练,如果效果好,可能后续会部署到客户纯内网环境。
如果效果不好,自己平时用也不错。
就算效果非常不好,那自己搭建一个自己的本地知识库AI也不错。
所以想请教各位佬友,有推荐的显卡吗?当然是性价比越高越好。预算2k-5k,如果佬友强烈建议,可以增加预算。(现在有一台台式机,8C/48G/4G显卡)(现在有一台Dell T620,48C/128G/无显卡,但是噪音太大,已经弃用)(现在有一台笔记本,2C/32G/集成显卡,平时工作用)
首先海鲜市场水太深,直接放弃了。
看了JD,发现现在16G的显卡大约3-4.5k,不知道够不够用。
请各位佬友指点迷津~
感谢!!!