拾雨 (@c519127) 在 DeepSeek R1 推理测试:英特尔 Arc Pro B70 显卡吞吐最高 2320.76 token/s 中发帖
IT之家 7 月 9 日消息,科技媒体 Wccftech 昨日(7 月 8 日)发布博文,报道称显卡厂商蓝戟(GUNNIR)测试英特尔 Arc Pro B70 GPU,在 DeepSeek R1 模型推理表现上超过英伟达的 RTX 5090D 和 RTX 4090D 显卡。
测试环境均为 4 张显卡配置,主要对比英特尔 Arc Pro B70 32GB、英伟达 RTX 5090D 32GB 与 RTX 4090D 24GB 三款显卡的 AI LLM 大语言模型推理性能表现。
测试模型为 DeepSeek R1-Distill Qwen 32B FP16,该模型固定输入 / 输出长度为 128 个 tokens,涵盖了从 1 到 512 的完整上下文并发范围,测试的核心指标为 token/s 吞吐量,用于衡量大语言模型推理时的输出效率。
在并发低于 32 时,RTX 5090D 位居前...