Kinnikuman 在 有没有专门优化翻译的大模型? 中发帖
办公室里很多设备有翻译的需求(英语 日语 韩语等),用 gpt deepseek 这种的大模型跑翻译,有时候遇到网络问题会很慢,可用性很重要。
所以想着本地跑个大模型给局域网用,有一个闲置的设备,192个cpu核心,192G内存,显卡是16G显存的n卡。
所以有没有专门为翻译优化的大模型?或者本地直接部署一个 7B 参数的模型即可?