柔情寡妇 (@ZtionJam) 在 Sub2api 开启WS mode提高响应速度 中发帖
1、启用WS mode
自用分发人数少推荐透传,人多的开上下文池
[image]
2、域名如果通过nginx代理的,要启用ws
proxy_set_header Upgrade $http_upgrade;
proxy_set_header Connection "upgrade";
3、codex客户端启用ws
用户配置文件中添加(必须位于具体的自定义模型提供商配置块中,不能放在顶层):
supports_websockets = true
例:
[model_providers.my_proxy]
name = "My Proxy"
base_url = "https://your-api.example.com/v1"
wire_api = "responses"
supports_websockets = true
4、验证:
发起一次会话聊天,...