@flingjie 在 用《西游记》理解 agent 中发帖
[图片]
把 agent 看做孙悟空,很聪明,本事很多,七十二变,还有厉害工具,金箍棒和筋斗云,但也会「心猿意马」:跑偏、绕圈、急着交差。作为唐僧,要控制孙悟空,就要学会方法。不能像如来那样,用五行山压着,就不能发挥孙悟空的能力,而需要运用合适的方法进行控制,只在关键时刻用紧箍咒进行控制。合适的方法包括:
Harness engineering。 给悟空定好目标,提供提供条件和工具,规定权限职责,可以打妖怪,不能伤害百姓。
Loop engineering, 不断打怪,打错了惩罚,做对了奖励,让他自我迭代,自我成长。
Graph engineering,控制取经路线,是去西方,不要走到东方去了。