Loop (@looplj) 在 [开源] AxonHub AI 网关发布 v0.4.2 版本 中发帖
前文见: 分享自己开源的一个肝了一段时间的 AI 网关项目
项目地址:
欢迎大家试用反馈,觉得有用的话,欢迎点个✨。
本次更新主要修复了一些 bug,然后添加了佬友反馈的一些功能
批量添加 API Key,每个 key 会创建一个渠道
[image]
可以配置渠道模型名增加前缀
[image]
可以配置渠道使用代理访问
[image]
优化渠道管理,提供了各种批量操作
[image]
接下来的计划:
短期:增加渠道健康度监测以及优化负载均衡,会基于健康度做一些策略
长期:等 AI API 代理相关基础功能完善以后,会开始做一些更上层的 agent 开发相关能力,prompt 管理/评估,agent 管理等