@ZimaBlue 在 求推荐大模型路由转发工具 中发帖
各位大兄弟,我想部署一套这样的路由转发工具:
我问 AI 问题后,先由这个工具帮我判断该问题应该使用哪个大模型。比如,如果是询问本地知识库的,那就调用私有部署的大模型;如果不是就直接调用外网大模型api。
请问有类似开源项目嘛,求推荐!!