维寒 (@WeiHan) 在 【模块 2b】上下文与成本 — 架构设计分析 中发帖
【模块 2b】上下文与成本 — 架构设计分析
核心架构:上下文与成本管理
前置概念:理解上下文的职责
是什么:
上下文 = 发送给 LLM 的"背景信息"
包括:系统提示、用户上下文、系统上下文
目的:让 LLM 了解当前环境、项目状态、用户偏好
为什么需要缓存:
上下文构建涉及磁盘 I/O(读取文件、git 状态)
每次查询都重新构建 → 浪费资源
缓存 → 会话期间复用,提升性能
上下文三层架构
%%{init: {'theme': 'neutral'}}%%
flowchart TB
subgraph L1[1. 系统提示 System Prompt]
A1[工具描述]
A2[权限规则]
A3[工作目录]
A4[MCP 服务器信息]
end
subgraph L2[2. 用...