AI民工 (@haolove) 在 请教大家一个问题,关于如何压缩智能体上下文 中发帖
公司最近开发了一个ai机器人,机器人接的是自己搭的模型,上下文上限只有46k,今天跑了一下才发现我的身份文件+skill文件+工具文件,塞到上下文里面就有四十多k了,根本没法用,现在想的是把一些跟主干流程无关的封成新的子代理,佬们,有没有其他什么办法,最好能极限压缩,既能保证质量,又能让上下文保持在28k的水平