🐟 (@stevessr) 在 利用消息线程提升长时间运行的智能体(Agent)的执行速度 | Anthropic 中发帖
“消息线程”(Message Threads)功能现已在 Claude 平台上以公开测试版(Public Beta)形式推出。借助该功能,智能体(Agent)无需在每一轮交互中重新发送完整的对话历史,从而降低了长会话中的延迟。
“消息线程”的工作原理
在一次会话中,编程类智能体可能会发起数百次请求,而以往每次请求都需要重新发送之前所有的对话内容及工具执行结果。当对话规模达到数十万个 Token 时,重新发送全部内容会增加 Claude 开始响应前的等待时间。通过“消息线程”,智能体只需发送自上一轮交互以来的新增内容,从而缩短了“首个 Token 生成时间”(TTFT)。
对于大多数 Claude Code 用户而言,“消息线程”功能默认开启。在包含 50 万至 100 万个 Token 的请求中,其 TTFT 中位数可降低约 35%。
若要使用“消息线程”,只需在 Message...