浮生 (@ukiyo-dev) 在 说说个人观点:New-API 的使用痛点 中发帖
我最近一直在寻找 New-API 替代,以解决以下痛点:
渠道重定向而非全局重定向:
第一个渠道重定向模型名 → 发现第一个渠道不可用 → 回退到第二个渠道 → 问题发生 → New-API 使用的是重定向之后的模型名,而这个模型名在第二个渠道根本不存在。
这是多渠道管理中的一个核心痛点。不同渠道对同一个底层模型可能有完全不同的命名规则,比如:
OpenAI 官方: gpt-4-turbo
Azure OpenAI: 可能是一个自定义的部署名,如 my-company-gpt4-deployment
其他代理服务: 可能有自己的前缀,如 proxy-vendor/gpt-4-turbo
真实的余额审计:我不需要复杂的倍率统计,我只需要对于渠道真实的花了多少,我这边就计费多少,直接透传上游渠道的实际消费,不需要复杂的倍率计算。
透传+回退的请求模式:下游以什么格式请求模型...