carlpayne 在 有没有什么 API 管理或聚合工具支持根据模型 input 长度灵活选择不同的渠道? 中发帖
精打细算使用 o1-preview:不同的渠道支持的上下文长度不同,产生的费用也不同,综合考虑用量限制,如:
ChatGPT Plus (Chat2API)
频率:50/周
额外费用:0 (ChatGPT Plus 订阅)
上下文:57k / >4k (?) output
Github Models
频率:8/天
额外费用:0 (Copilot 订阅)
上下文:4k input / 4k output
API
频率:足够
额外费用:按 tokens 数量计费
上下文:128k / 32k output
其它三方对话工具会员后台自定义的输入输出限制……
如果能够根据不同渠道支持的 input 长度 (tokens 数量) 来自动选择渠道,从而最大化利用不同渠道的 o1-preview 资源,岂不美哉。
目前是否有什么工具能够实现这个需求?不限于独立的项目、worke...