BHznJNs这个我调试了一早上的 bug 在我关掉 flclash 之后就好了!? 中发帖

起因是这样的,我正在开发一个 LLM Client,其中使用的我自己基于 litellm 封装的 LLM Client 库。 
我今天早上在测试时突然发现程序无法正常获取我自己部署的 NewAPI 服务的模型列表。
最开始我以为是我的封装层出了问题,但是在尝试用单独脚本直接调用 litellm 的 API 后发现同样失败,这才明白可能是 litellm 内部的问题。
(这里吐槽一下 litellm 的 API 设计,litellm 的 get_valid_models API 居然在请求时出现连接问题时不报错,只返回空数组的,一度让我误以为是我的 NewAPI 服务出了问题,各位千万不要这样设计 API)
我又尝试直接调用了 litellm 的 get_valid_models 下调用的 API,才发现确实是网络连接问题,而且根据报错内容 [WinError 10054] An ex...