金一言 (@Happleasei) 在 【headroom】减少60-95%的tokens,结果不变。 中发帖
GITHUB今天最火的项目,有佬实测过吗?
Headroom 会在 AI 代理读取的所有内容(包括工具输出、日志、RAG 数据块、文件和对话历史记录)到达 LLM 之前对其进行压缩。同样的答案,只需极少的tokens。