时歌 (@Lapis0x0)上下文是稀缺资源|RAG、Memory、Skills 的设计哲学刍议 中发帖

在大模型时代,「上下文」这个词被频繁提起,却常常在讨论中被过度简化。我们可以先退后一步,问一个更根本的问题:上下文究竟是什么? 
对于人类而言,上下文是我们理解世界时的那层看不见的背景幕布。它是两个老朋友聊天时无需言明的共同经历,是团队讨论项目时每个人脑海中关于前情的默契假设,是你读到这句话时,前面所有文字在你意识中留下的痕迹对当下理解的持续塑造。我们和他人进行的每一次对话、每一项研究、每一段协作,都依赖这种「默示」的共享认知来避免从零开始反复解释同一件事,让思考得以保持连续性和方向感。
对于大模型来说其实也差不多,只是这些概念被具象成了 system prompt、聊天历史、外部工具调用结果,以及各种临时拼接进来的检索信息。所有这些片段共同构成了模型的“工作记忆”:它在多大程度上理解自己现在身处哪一个任务链条、面对的是谁、需要延续的目标是什么,这些都取决于当前被送进上下文窗口的内容。
...