paopao 在 【开源自荐】 PrismCat — 你的 LLM API 请求到底长啥样?这个工具帮你"录像回放" 中发帖
首先,祝各位佬友新年快乐,万事如意!🧧
💡 痛点起因
现在社区里的 AI 工具多到眼花缭乱,但作为一名每天和各种大模型 API 打交道的用户,我总是希望我的真实意图能被保留。但难免会遇到使用 API 时突然报 context_length_exceeded 之类的错误——明明 Prompt 不长?抓包一看,客户端偷偷注入了一大段 system prompt……
所以我不禁想问:我的请求发出去之后,到底在传输过程中变成了什么样?
虽然 Postman 或浏览器的 Network 面板能看,但那毕竟是调试工具,没法在大规模调用时"无感"复盘。相信不少佬友都经历过因为某些"玄学报错"而在深夜抓耳挠腮的时候 🙃。于是,我跟 AI 捣鼓出了这个小工具:PrismCat(棱镜猫)。
🐱 它是什么?
简单来说,它是一个 LLM API 透明代理 / 中转日志工具。你只需要把代码里的 API ...