秋实 (@qiushi) 在 现在主流的几个AI,有没有佬知道哪里有相对快速且经济的API呀 中发帖
我们现在的需求是做一个和AI对话的服务,使用非推理模型,希望能够在 50k 左右的上下文输入中尽可能快地出第一个字符(只要出了第一个字符就可以流式送给 TTS 进行语音输出了),并且保证输出文本的质量。
目前试了国内的几个模型,ds/qwen/glm,速度和价格总体上是满意的,但是输出质量离预期还有一点点距离。现在想试试 gpt/claude 会不会有更好的表现,希望能够找一些价格相对经济,并且首字符输出速度较快(最好能秒出)的渠道,希望有用过的佬给点建议,感激不尽!