johns求推荐大模型api中转站和负载均衡/故障转移系统 中发帖

RT。搭建了一个 Open-WebUI 给团队使用。因为暂不确定是否能报销,直接接入官方还是有点肉疼,论坛社否有靠谱点的低价中转站?要求有 OpenAI Anthropic Google 御三家,且支持 Google 的图像模型。 
另外,各个供应商肯定是没法保证在线率 100% 的,有没有一种系统能将多个供应商的同一个模型聚合在一起,然后供给 Open-WebUI 使用?这样在一家掉线的时候能自动切换到下一家。