@zhecai 在 关于 Agent 辅助写小说,记忆模块怎么设计的一些思考 中发帖
AI 辅助写小说是个大命题。其实项目还有 DAG-workflow 的设计,但推翻了几次发现还是应该以 Agent 为核心,Agent 中又应该以记忆模块的设计为核心。
虽说可以坐等模型注意力容量和上下文窗口的同时大跃进,但终归还是要等,不纳入考虑。
大方向是希望模仿各类 TUI-coder-Agent 的实现,不做 RAG,用文件系统组织记忆文件的同时让 Agent 在里面自己探索以回答关于原文的任意问题。(这个东西相当于有了给生成式任务套上项圈的能力)
优化目标是希望能够在记忆模块的辅助下,Agent 回答与原文相关问题时 token 消耗量降低(这个自然容易达成),同时回答质量的损耗可以接受。
我这里给到的唯一有价值的判断是把思考方向转到简单几个级别但依然比较难的问题:Agent 回答的问题限定为 “给出一些新内容,判断它们与已有章节有没有冲突,冲突在哪里” 的基础上,如...