影龙 (@Jerry_02suki) 在 想知道ds各个参数版本的区别 中发帖
RT,手里有4090,想部署个ds,7B 14B 32B应该都可以流畅运行
我想知道这几个不同参数量的模型的具体能力差别是什么,差多少,有人有测试过吗
测试大模型能力这块我没什么概念 😂
请佬友指路~
RT,手里有4090,想部署个ds,7B 14B 32B应该都可以流畅运行
我想知道这几个不同参数量的模型的具体能力差别是什么,差多少,有人有测试过吗
测试大模型能力这块我没什么概念 😂
请佬友指路~