@MetaInsight 在 想请教一下做 API 中转的佬友们:如果要同时接入国外和国内的模型,大家是怎么解决网络问题的? 中发帖

我目前把中转服务部署在海外服务器上,访问国外模型很快,但访问国内模型的接口(比如火山引擎的国内 API 地址)时,丢包比较严重,稳定性不太理想。 
这种情况一般需要在国内、海外各部署一套中转服务,再按模型分流吗?还是有更好的架构或线路方案?
我理解,即使在国内加一层 Nginx 反向代理,请求仍然要经过国内与海外之间的链路,稳定性还是取决于这段网络