时歌 (@Lapis0x0) 在 关于酒馆SillyTavern所代表的伴侣模型系统的一些小思考 中发帖
你也可以在我的博客中看到本文的全部内容
一、对于目前的模型来说,一切的工程都是「上下文工程」
模型本体是黑箱的,是封闭且不可调的参数网络,它没有意图,没有欲望,只是在对下一个 token 进行概率预测和输出。无论是系统提示、角色设定、行为约束、知识注入,还是人格模拟,我们所做的几乎一切事情,最终都归结于一个词:Prompt。而 Prompt 的结构、历史对话缓存、函数调用信息、角色卡、世界设定书等内容,统称为“上下文”。
问题在于:手动维护这一整套上下文,对于普通用户来说成本极高。
因此,我们才需要把上下文拆解成一个个模块,抽象出角色卡、系统提示、行为标签、个性偏好、插件功能等组件,用更结构化的方式来组织 Prompt ——这就是为什么 SillyTavern、CharacterHub、RAG 插件、记忆系统等等会成为今天 prompt 工程的主流手段。
我们所谓的「定制化」、「驯...