CCS_Covenant现有的替代服务商(阿里百炼 硅基流动 NIM)推理DeepseekR1速度巨慢 中发帖

测试了一下NVIDIA NIM DeepseekR1的推理速度 慢的要死 4token/s他们是跑在CPU上的吗? 
阿里百炼和硅基流动都差不多是10-15token/s的速度 太慢了
有没有试过azure的报个数字?
官网的现在时不时还在炸 但是感觉估计有40token/s左右
[fc14e0faf700ae3390ed013201190b9c]