Hans (@nghon) 在 Dify2OpenAI 不支持工具调用? 中发帖
因为公司只部署在Dify上面公开了本地部署的模型,使用 FastAPI 将 Dify 的服务转换层 OPENAI Compatible 的形式可以放在 Roo/Cline 上使用,但是无法在 QwenCli 等 Cli 工具使用,因为调用工具失败,无法创建和修改文件内容。
个人排查原因大概是 转换出来的API只能支持在Dify平台上该应用添加的工具,不支持额外的工具调用,不理解的是为什么本地部署的模型,原生 OPENAI Compatible 可以支持工具调用。
请大佬帮忙解答一下,是否有解决方案?