@stevessr不止是速率限制 ── Codex & Sora 的计费制度 中发帖

https://openai.com/index/beyond-rate-limits/ 

[!quote]+
过去一年,Codex 和 Sora 的用户增长速度都非常快,使用量迅速超过了我们最初的预期。我们观察到一个普遍的模式:用户快速上手,发现其价值,然后就遇到了速率限制。
速率限制有助于平滑需求并确保公平访问;然而,当用户正在享受服务时,突然中断可能会令人沮丧。我们希望找到一种方法,既能让用户继续使用服务,又能保障系统性能和用户对我们方案的信任。
为了解决这个问题,我们构建了一个实时访问引擎,用于统计使用量。该引擎的一个组成部分是购买积分。当用户超出流量限制时,积分允许他们通过消耗积分余额来继续使用我们的产品。
[image]
[image]
我们做出的关键概念转变之一是将访问权限建模为决策瀑布 模型 。我们不再问“是否允许这样做?”,而是问“允许多少,以及从哪里访问...