Mozi (@yeahhe) 在 英伟达 NIM 免费模型推荐指南 中发帖
英伟达 NIM API 中有很多模型,但是很多是几乎不可用,或者是使用体验很差的,做了一份可用模型列表
还有发布时间表,用于给佬友们对照
筛选标准,首先是 API 稳定调用,还有输出速度和首字延迟。第二考虑的是发布的时间尽量要新。综合这些标准,长期自用,测试出下面这些模型
调用稳定,速度有保障
模型 ID
发布日期
首字延迟 TTFT (ms)
输出速度 (tok/s)
google/diffusiongemma-26b-a4b-it
2026-06-10
1501 ±507
182.4 ±44.2
nvidia/nemotron-3-ultra-550b-a55b
2026-06-04
1120 ±11
144.7 ±67.5
stepfun-ai/step-3.7-flash
2026-05-28
1149 ±206
68.0 ±16.1
stepf...