Jeff (@Tokinx) 在 copilot-chat 通过 ollama 接入外部模型,在 Agent 模式下终于能丝滑运行了! 中发帖
我前段时间通过 oai2ollama 将 NewAPI 中的模型接入到 copilot-chat 中,接入后发现在普通的 ask 模式下运行一切正常,一旦切换到 agent 模式,操作就会频繁报错并失败(偶尔会成功)。最开始我以为是 ollama 接入的模型本身不支持 agent 模式的复杂调用,论坛上看到其他佬友也这么说。
但是。。。今天我仔细观察了 NewAPI 的日志发现了一个规律:所有 agent 模式的失败请求都发生在调用 glm2api 这类 野路子 接口,而直接调用魔搭社区等官方渠道的接口则从未失败。
这个规律就好解释之前 agent 模式为什么频繁失败报错但是却有偶尔会成功的问题了,完全是因为走了newapi分流,偶尔被分到官方接口上就会成功,但是因为我把 2api 的权重调的比较高,所以才会更多时候报错和失败。。。为了验证猜想,我在 NewAPI 后台暂时禁用了所有 2...