anjiangzi (@user1640) 在 newapi限流429应该怎么QPS如何调高 中发帖
Docker 跑的 NewAPI,Nginx 日志里老刷 429,路径是 /v1/chat/completions,但 NewAPI 自己日志里一条都找不到。
能调的两处:
docker-compose 里的 GLOBAL_API_RATE_LIMIT 和 GLOBAL_API_RATE_LIMIT_DURATION
后台网页里设置 模型请求速率限制
想问:
哪种设置更好一点?还是根本就是上游渠道在限流?