ylxmf (@ylxmf2005)关于codex 518n-2 降智修复方案的疑问 中发帖

目前社区看到比较普遍的方法是:检测到特征就重试(最多有上限如3次),用次数/时间/token 换准确度。这个测试下来,确实会让模型慢很多。而且本质上还是重试。 
但我看到 issue 里有高赞回答,仅仅删除了codex一段prompt(向用户尽快报告进度):
[image]
挺好奇这个方案的原理是什么,以及真的有效吗?如果真有效的话,是为什么呢,是因为官方把518n 作为了推理的batch,过了 518 让模型自己决定是否继续推理?(这样的话 -2 就是 think tag和/或者某些否继续思考的tag呢)