冉多福🙄 (@randomfuk) 在 收集一下各个平台的 DeepSeek R1 响应速度 中发帖
目前:
在 Azure AI 搭了个 DeepSeek R1
调用了火山方舟的 DeepSeek R1 API
调用了 hugging face API 的蒸馏版 deepseek 32b r1
使用了 groq 的蒸馏版 deepseek 70b r1
用了日本的服务器搭建了个uni-api 和 neatchat (nextchat),个人观感响应速度依次:
Azure AI
Groq
hugging face
火山方舟
想收集下佬们其他平台的API响应速度如何