吉吉 (@JIJI) 在 openweb-ui 返回数据慢的问题 中发帖
我的 openweb-ui 和 new-api 在一个 docker-compose 中,使用 gemini-1.5 模型时,要过好几秒才会开始返回数据,一直使用的模型地址是 https ://api.domain.com/v1,改为 http://new-api:3000/v1 后,速度提升了不少。有同类问题的可以试试。
**1. 使用 https://api.domain.com/v1 时 **
[9b1ed265f4f4328726e72d9517f82d2]
**2. 使用 http://new-api:3000/v1 时 **
[7ea49bfe5c9e7baa7fc48f1f5c24183]