@yacc 在 关于沉浸式翻译调用api请求过快的问题 中发帖
感谢站里的佬们,翻译也是用上api了。不过有时候网页上可能没多少东西,却因为频繁请求而报错,如果是比较长的维基百科之类的,我完全不敢用api,直接切微软翻译。
因为大部分网页都是一段一条请求,根本没多少内容,而且标题栏之类的也要一次调用,就会导致很多高频率、内容短的请求。
刚才看了一下,正常看reddit帖子,一分钟请求了143次api。因为加了翻译提示词模板,最短的输入216 tokens,输出5 tokens,恐怕提示词模板占了绝大部分。输出超过100 tokens的只有8条。
关键是每秒最大请求数设置稍微大一点基本就要429,设置小了翻译还没我看的快,特别有时候只是先扫一下大致内容,我要是自己挨个翻译就没必要用插件了。
我用 心尘 佬(再次感谢)专门沉浸式翻译的模型,每秒最大请求数上3也基本会报错,其他正常对话用的api根本不敢用来翻译,
所以我突发奇想,有没有办法把这些请...