忘心弃剑 (@wangxinqijian)本地知识库的模型使用心得 中发帖

最近升三级了,发个帖随便说点东西。
前段时间部署过本地知识库,MaxKB和fastgpt都试了下,发现还是fastgpt好用,而且能在第三方应用上用api访问。MaxKB好像不能自己部署向量模型,只能用默认的,索引效果不怎么样(也可能是我没找到正确使用方法)。
不过现在主要说说关于问答模型的。
gpt,claude,gemini这三家效果肯定是最好的,但很多时候问答都比较简单,用这三个相当于用牛刀杀鸡了,而且像我这样知识库里面放了两百多个文档的,上下文设置的比较大,每次问答一下就要一万多token,属实没必要。而且用大佬们的公益api的话也不够稳定,关键时刻说不定刚好报错。可以作为复杂问答的备用手段。
然后是限时免费或者注册送token的那种,比如deepseek,moonshot,百川等等,差不多算是菜刀了,杀鸡正好,使用效果还是不错的,但是有效期一般1-3...