Loveyless 在 多少tps(每秒tokens),算快?多少速度大家可以接受? 中发帖
[image]
[image]
这是某个中转站我用的记录,然后丢给了GPT。我体感来说,40~50每秒tokens对我来说刚好够用,属于不快也不慢
等会儿我具体测一下这个中转站到底支不支持fast,因为我是配置里是开着fast用的