@yu1745递归自我改进-pi的插件如何进化 中发帖

今天我们就以如何写一个会深刻影响派的Agent Loop的插件,来为派的插件开发举一个例子。JEV作为一个非常火爆的新范式的模型发布了,是我们怎么使用它呢?难道只能把它用在量化机器人上,用它来判断涨跌,进行一些无意义的数字预测吗?其实不然。 
首先我们看一下JEV这个模型的特性,低延迟、低成本、结构化输出。低延迟和低成本意味着它可以在Agent Loop中作为一个钩子被大量的调用,而结构化输出则意味着它特别适合作为一个判别器。如何理解我上面说的这句话呢?不知道你们平常在开发中是否有过回看整个模型上下文的行为,其实在任何一个开发session中,最初期的往往都是大量的试错加探索,需要找资料,API的资料,现实的资料,而找资料的过程中,往往不会得到的是全部都是相关的内容,会得到很多不相关的内容。模型的注意力是有限的,往上下文中塞入的垃圾越多,注意力就越差。
那么为了解决这个注意力变差的问题,...