tangqiu 在 有没有这种AI网关项目 中发帖
1: 添加供应商时不用选模型,添加成功后会自动拉取模型,并且检测可用模型,使用时只会启用可用的模型.(另外可以增加定时任务,如24小时重新拉取模型并检测, 不想用的模型可以加入黑名单)
2: 客户端使用时,比如选择GPT-5这个模型,后端根据权重/延迟等使用任意一个供应商的模型(gpt-5-2022156, gpt5, gpt5-2323123, 这样都算gpt5), 我只用选择模型名,后端具体用哪个供应商的无所谓.