lanendiencgrpython本地ai服务器,有自动化获取很多佬的接口 中发帖

异步,负载均衡的Fastapi搭建的ai服务器,只需要配置api url和key,像xxx/v1/chat/completions这种接口,还有key,模型,就可以启动服务器使用了