继上次关于Agent 自进化的讨论的话题之后，最近我顺着这个方向深入思考了 Agent 的推理结构，有一些不成熟的想法想和大家交流。 
如果说GPT-3.5是AI时代的奇点，那么“Let’s think step by step”就是AI走向半自动化编程的奇点。随后没多久，天才少年涂津豪作为作者之一登上Nature，而他的贡献之一在于设计出了一套在当时看来非常精密复杂的prompt，推动了AI从对话走向可工程化使用的时代。 
当然这篇帖子的主要目的并不是不是为了回顾功绩，我所想要讨论的内容是这套演进背后的方法论。从简单的Let’s think step by step，到复杂的结构化prompt，再到强化学习RL中拟合的思维链、目前主流skill、以及所谓自进化工程，它们本质上都是在做一件事——为AI的行动给出基于实际环境的指导。因为，在现实中完成一件事是有结构的。 
就像我们读书时做复杂...