天花板上的喵 (@fhcollege) 在 【提示词调优】写了个全自动AI写小说的网站,总结下目前遇到的问题 中发帖
最近借助Cline写了个前后端分离的网站,功能就是AI全自动写百万字的小说。
原理是实现了三个Agent对话,一个写作的,一个审批的,一个总结的
目前可以管理小说,在小说的详情页面可以自动的开始写小说或者暂停
写的过程其实就是这三个Agent在对话,系统会记录下来有效的对话,然后把对话过程中会把生成的章节添加到章节列表
=======================
下面进入正题,在实际使用的过程中遇到了一些问题,打算记录一下,这样大家在进行类似开发的时候可以参考:
大模型上下文长度限制
因为目标是百万字,如果每轮对话都是把之前的消息全量的扔给大模型,幻觉会非常严重,而且速度太慢了
解决方案是增加了自动摘要功能,把距离当前章节较远的章节转换为摘要提供给大模型,大幅节省了上下文
Gemini 2.5 Pro免费版不稳定
这个实在是头疼,因为全自动对话其实我...