二哈 (@erha)一个可以节省 90% 上下文的 idea 中发帖

我有一个可以节省 90% 上下文的 idea。 
核心思路是:在云端大模型和项目文件之间,加一个本地 Project Memory(相当于给 AI 专家配一个助手)。
一句话说明现在上下文的困境:上下文太长,找不到重点。上下文压缩之后关键消失,又需要重新读取并且索引。
解决办法:
举例子说明:在一个化学实验室中。这个 AI 大模型就相当于专家。之前专家每次进这个实验室,都需要读取药品名称,来源,使用手册,剩余克数。这样效率非常低,而且专家记忆力有限。现在给专家配了一个助手,他就住在这个实验室。它可以随时告诉这个专家药品的名称、来源、使用方法、剩余克数等等。
解决了什么:①极大地减小上下文的使用,效率提高。②记忆提高、精度提高。(比如原来删除了一个 xxx,上下文一压缩,又需要回忆这个文件是否存在。)③通过这个权重激活来减小上下文的储存。
ai 助手 分成两个模块
第一层是 Re...