屑狗爱猫 (@Xiao_Xiao123) 在 炸飞老铁,本地大文本处理,3050GPU(4g),32G运行内存华硕天选2 中发帖
不要英文,不用逻辑处理,(还是要一点的,就简单的数据统计而已)本地汉文文本处理(⊙ˍ⊙)要求的话有可能会输入10万到30万字进行补充和修改,偶尔会扩写。
听说千问的轻量化模型很不错,不知道本地部署会咋样,会不会很傻
目前有哪个轻量化模型可以做到这个部署要求?然后文本质量也不至于太低(・ε・`)
以豆包为例,只要比傻豆包强就行(⊙ˍ⊙)
感觉要求有点奢侈了(´- 灬 -‘)纯粹就是垃圾佬想要炸飞老铁的幻想而已
好奇现在的AI能不能进入垃圾佬时代,像是电脑组装一样,极致的性价比然后弄个个人私人AI
算是AI垃圾佬探讨会,用虚拟内存磨损硬盘方案,我觉得也可以Σ( ° △ °|||)︴
好奇目前市面上有哪些方案