STAY WITH 咪 (@SugarRainbow) 在 关于Sub2api 首字和总耗时近似相同的问题求解 中发帖
问题:sub2api 面板首字 ≈ 总耗时,且和上游面板对不上
[image]
现象
面板显示首字 30-49 秒,上游站面板同一请求首字只报 6-9 秒
部分账号首字几乎等于总耗时(出字阶段只有几百ms 却吐了上千 token)
目前怀疑是上游部分渠道是非流式转发
│ 思考等级 │ HTTP 200时间 │ 推理 │ 推理完成 │ 响应头后 │
│ xhigh │ 12621ms │ 13998ms │ 14141ms │ 1.5s │
│ low │ 1881ms │ 2915ms │ 3201ms │ 1.3s │
其他证据也能佐证上游自己那边把整个响应生成完才发第一个字节。
佬友们 想问下这种情况是合理的的吗?有没有什么在我这个端能解决的方法?或者能不能通过修改某些参数优化下首字让数据不...