BHznJNs 在 做了一个自动修复 LLM 工具调用格式错误的 API 代理 中发帖
从这两个帖子继续
项目地址:
对于一些大模型服务供应商,其免费用户可调用的模型会对工具调用进行限制。即使你使用的 LLM 客户端不直接使用模型内置的工具调用接口,而是直接通过提示词的方式引导模型输出特定格式的 XML 进行工具调用(如 Cline、Roo Code 等),往往也会被截断。
比如这个例子:
update_todo_list>
todos>
[x] 读取并总结 src/index.ts
[x] 读取并总结 src/llm-client-factory.ts
[-] 读取并总结 src/processors.ts
[ ] 读取并总结 src/response-factory.ts
[ ] 读取并总结 src/roocode-xml-validator.ts
[ ] 读取并总结 src/types.d.ts
[ ] 读取并总结 src/xml-patcher.ts
...