Loop (@looplj) 在 分享自己开源的一个肝了一段时间的 AI 网关项目 中发帖
项目地址:
感兴趣的可以看看,觉得有用的话,欢迎点个✨。
详细介绍一下核心能力:
OpenAI/Anthropic 请求格式互转,业务开发只要接一种格式,就可以对接各种不同的模型,减少开发成本
完善的控制面板,渠道管理,项目管理,权限控制,用户管理,API Key 管理等
低侵入 LLM API Trace ,支持不需要 SDK 就可以 trace 一次对话的多个 request,以及保存 Request 和 Response 内容,方便排查问题
本项目和 new-api 等项目的不同,本项目目标用户是 AI 产品开发者,不是中转服务商,所以会有更多开发监控相关能力,比如 Trace。
并且本项目核心代码都有单测覆盖,并且技术选型比较新颖
后端:Go + ent + gqlgen
前端:React + TypeScript + Shadcn + Graphql
本项目已...