@yht 在 batch api调用速率问题 中发帖
想问一下这个原理是不是类似削峰平谷? 昨天白天很快,一到晚七点之后就特别慢、基本没进度了. 用的是openai官方的batch调用, 时间窗口是24h
谢谢佬友
想问一下这个原理是不是类似削峰平谷? 昨天白天很快,一到晚七点之后就特别慢、基本没进度了. 用的是openai官方的batch调用, 时间窗口是24h
谢谢佬友