JJ (@xihajun) 在 分享一个自用的API测速工具,可以看看各种API的生成速度怎么样(或者烧掉自己剩余grok额度) 中发帖
我最近自己搓了个小工具,本来是用来测我本地模型的性能跑分,但它也支持任何 OpenAI 格式的 API 接口:API测速
我就用账户里那用不完的150 刀余额试了试 Grok API, 128 - 64K 输入的任务,大概 5 美刀。免费的不心疼哈哈(测试截图在这):
[image]
可以知道大概的输入和输出 token 数要花多时间,以后遇到类似任务,就能知道大概要等多久,感觉这用来快速评估成本和速度或许会有用的。不过用 API 接口测完记得把你的 API Token 删掉哦,安全第一!毕竟只是个测速玩具
另外,如果是想测自己搭的API的速度和稳定性,也可以加大并发数和测试的prompt数会更准确一点,测得越多prompt,时间越久,花的钱越多
[image]
直接”测速“就是要随机整个矩阵,也可以点击某个数据点进行测试
另外有想开发做一个deep research的功...