Devil (@remixjc)关于分布式大模型开发部署的脑洞探讨 中发帖

声明:纯本人胡思乱想出来的,如有雷同纯属巧合。 
基于现在大模型,我个人的理解是现在的都是基于某框架喂养各种各样类型的数据给到他们,然后他们的大模型具备的知识储备各式各样,各行各业。虽然看起来是个很强大的模型,但是需要的算力应该都比较集中,你问这个专业的知识靠他,他问另一个专业的知识也靠他。
我出于什么原因想到的呢?就是想自己部署一个专门用于某个行业,某个语言的某领域开发,实际上应该不需要走到统一大模型中,如果按照体量算的话,我能用到的地方可能都不足应该模型1%的体量。如果可以分布式单独用于我局部需求和日常应用场景的话,那么模型的体量应该会少很多,这样的好处我觉得蛮多的:

可以减少统一计算资源,可以单独分配
如果私人部署,可能占用的空间也会更小
资本可以将订阅划分的更细,费用或许更明确也更让用户省钱

再次声明:纯个人想法和观点,各位有想法的可以一起探讨。