浮生 (@ukiyo-dev)说说个人观点:New-API 的使用痛点 中发帖

我最近一直在寻找 New-API 替代,以解决以下痛点: 

渠道重定向而非全局重定向:


第一个渠道重定向模型名 → 发现第一个渠道不可用 → 回退到第二个渠道 → 问题发生 → New-API 使用的是重定向之后的模型名,而这个模型名在第二个渠道根本不存在。

这是多渠道管理中的一个核心痛点。不同渠道对同一个底层模型可能有完全不同的命名规则,比如:

OpenAI 官方: gpt-4-turbo
Azure OpenAI: 可能是一个自定义的部署名,如 my-company-gpt4-deployment
其他代理服务: 可能有自己的前缀,如 proxy-vendor/gpt-4-turbo


真实的余额审计:我不需要复杂的倍率统计,我只需要对于渠道真实的花了多少,我这边就计费多少,直接透传上游渠道的实际消费,不需要复杂的倍率计算。
透传+回退的请求模式:下游以什么格式请求模型...