@purr 在 OpenAI DevDay 总结 | o1 速率限制翻倍 | 自动提示缓存 | 实时对话 API 等 中发帖
OpenAI 本次开发者大会总的来说没有过于超前的内容,但依然更新了些方便用户与开发者的东西.
最为重要的,o1 目前 API 速率限制终于翻倍,达到与 4o 相同的 10k RPM. (Tier 5) o1-mini 的速率限制也来到了 30k RPM. Source
发布了实时对话 API, 支持 文本 / 语音 的输入与输出. (本质上就是之前那个对话的 API 版本)
提示缓存,但自动化!虽然相比较其他公司的模型,折扣只有 50%, 但至少自动调用,不需要对 API 做出修改. Source
更好的 JSON 格式化输出.
支持图片微调了.
今年年底前预计能够让 o1 支持函数调用.
绝大多数内容官方文档已经更新,可自行查看细节.
News Source