木子不是木子狸 (@Muzilee) 在 Harness Engineering:让 AI Agent 可用,好用 中发帖
人类掌舵,Agent 执行——本文从"为什么"出发,基于文章 https://openai.com/zh-Hans-CN/index/harness-engineering/ ,系统理解 Harness Engineering 的核心思想与实践方法。
[image]
问题从哪里来
当我们把一个复杂任务交给 AI Agent,如果直说。AI 大概率会产生问题。
为什么?
我们没有提供一个足够好的环境,约束还有反馈机制。
当我们自己做一个任务时,如果没有要求,我们也不确定什么叫做好,什么叫做不好。
所以约束限制很重要。
我们缺少的是时间和注意力。所以真正需要关注的,是系统、架构和放大机制:怎样设计一个让 Agent 可以稳定执行、可以被纠错、可以被验证的工作环境?
我们要知道:
初期进展慢,通常不是 Agent 的问题,而是规范不够清晰。在最顶层暴露所有细节,只会让使...