kkqy 在 fast 2倍消耗1.5倍速度,ultrafast 3倍消耗5-6倍速度,这咋想的? 中发帖
我试了一下,开fast连2倍TPS都不到,100TPS都很难
但是ultrafast直接5-6倍TPS了。
我看X上说fast是2倍费率,ultrafast是3倍费率。
OpenAI这咋想的?
照这个设定,能开ultrafast的话,会有人开fast吗?
追求速度用ultrafast,追求省token用普通速度
fast只是给开不了ultrafast的用户提供的一个很臭的选项