cat3399 在 看看佬友们的openwebui速度 中发帖
大概3.5s
[image]
网络环境:
openwebui 部署在本地服务器 通过frp穿透到华为香港云(70ms)
然后再在本地通过服务器的域名测试
这个速度如何,尽可能的优化了 :tieba_087:
优化1:js css png等静态资源上传到华为云并且提前压缩好 后端返回数据也会压缩
[image]
[image]
优化2: 对于一些耗时且没啥用的接口直接在nginx里面设置返回值
[image]
优化3: 永久缓存模型列表,
一般来说模型列表不会更新,需要更新的时候手动删除一下缓存就行 :tieba_016:
感觉现在优化到头了,最耗时的聊天记录没办法了 :tieba_087:
佬友们还有什么建议