xwy-python佬们知道有什么开源项目,可以中转open AI格式的渠道,并且自定义系统消息吗? 中发帖

是这样的
各位佬友们,本人有在做一个工作流项目,就是AI工作流实现一个AI应用,然后包装成API或者客户端去卖的。用的原模型是兼容OpenAI请求格式的,API管理后台用的是RixAPI(就是OneAPI/NewAPI的二开)。
之前踩过的坑
Fast GPT那次
最开始用的是Fast GPT实现工作流,因为我这个应用要封装到API里面嘛,这样方便别人调用。但是遇到一个很头疼的问题,可能是Fast GPT的问题(毕竟我用NewAPI,版本不是太新哈,也遇到跟现在这个Rix同样的问题):

用非流请求倒是能正常返回
但是计费时后台会把它记为一个提示一个输出,就相当于基本没扣费
试问这个bug我还被用户薅了300多次的请求,后来就不敢用Fast GPT了😭

换Dify之后
改用了Dify做工作流,结果发现:

这个工作流压根不支持OpenAI格式的API兼容
还得依靠Rix中对于这个后...