Muse (@preacher)openwebui向量化和重排模型选择分享 中发帖

之前用openwebui默认all-MiniLM-L6-v2(疑似英文)效果不理想。不过2H4G超开云实在跑不动 Embedding最终本地部署+内网穿透到超开云。(备用方案拉硅基流动api) 
选择Embedding模型在ollama多语言和双语模型不多,选择了bge-m3
选择Reranker模型在超开云可以选择BAAI/bge-reranker-base(openwebui好像不能拉api,如有实现方式请指正),如果佬友配置不错选择BAAI/bge-reranker-v2-m3。
最终配置是bge-m3+BAAI/bge-reranker-v2-m3。
简单测试下来是单纯开bge-m3,1000道题库,有一定错误概率。如果是bge-m3+bge-reranker-base,提升效果还不错。
当然我不是程序员,只是本人实际使用过程,心得分享一下,欢迎指正和分享。