@lanvent 在 Any请求疑难杂症解决方案(第二期)- 如何针对Any设计体验提升10倍的本地网关 中发帖
前言:因笔者只使用Any的GPT模型,下文只涉及Codex。当然,Claude的原理是一样的。
本地网关:指在Codex和Any之间部署一个转发器程序。
发请求:Codex ──> 本地网关 ──> Any
收消息:Any ──> 本地网关 ──> Codex
引入本地网关,可以解决很多Any的疑难杂症:
1. 获取更详细的错误信息
Codex客户端有时会吞掉上游具体的错误或只返回简略信息。网关可以直接截获原始响应,打印详情方便定位。
2. 捕捉请求内容与思维强度
Any会映射思维强度,当前的规则大致是:
low -> low
mid/high -> high
xhigh/max -> max
比如国庆期间经常会出现概率性路由到low(也就是降智)。本地网关可以直接从消息流中解析实际思维强度并打在日志里。
3. 动态更换上游绑定账号
之...