isora 在 这次提速后6.1sol和astra的token效率变低了 中发帖
这次提速6.1sol和astra后token效率变低了,首先最直观的感受就是,一个问题下去258k的上下文窗口直接快塞满了,很像5.6sol那样一个探索读取任务能把上下文干满
这次提速6.1sol和astra后token效率变低了,首先最直观的感受就是,一个问题下去258k的上下文窗口直接快塞满了,很像5.6sol那样一个探索读取任务能把上下文干满