都林之马 (@Salieri_iris) 在 AI自设计单独大型任务的harness是否是未来? 中发帖
躺在床上突然在想,现在的ai coding似乎都是人类去提出一种结构化的思维方式(无论是skill,harness设计,等等),实际上都是人类在设计围栏,设计CoT,设计ai推理和思考的方向和规范,那能不能让ai在处理某些较大的任务的时候先自己设计一套思维方式,设计一套围栏呢?世面上现在比较流行的开源项目是Hermes,说是自进化,但实际上不过是事后去造一大堆一次性的skill(妄图在以后的工作里复用,但往往没有那么简单)。
深入去想的话,大概还有以下问题可能存在:
1:是否需要更高层围栏?如果没有,可能会出现无限的自我合理化
2:操控权移交问题。我想自动化用多了的开发者都能感受到自己对项目的控制权的丧失,非常容易出现不清楚项目的现状,不清楚项目的细节,不明白项目是否在正确的轨道上的情况
3:如何去落地这种通用的自设计harness?
4:是否有足够多且快速的反馈用于判定这种自设...