🐟 (@stevessr)NVIDIA Groq 3 LPX 现已全面投产,为智能体人工智能提供世界一流的速度。 中发帖

[!quote]+ 
Hot Chips——NVIDIA 今日宣布,交互式 AI 推理加速器 NVIDIA Groq 3 LPX 现已全面投入生产。作为 NVIDIA Vera Rubin 平台的扩展,Groq 3 LPX 通过实现超高速的令牌生成,显著提升了 AI 推理能力,从而为高响应的智能体系统带来更强大的响应速度。
智能体系统可以在成百上千个推理步骤中生成海量令牌,因此,更快的令牌生成速度对于智能体进行推理、行动以及实时完成复杂任务至关重要。
Vera Rubin NVL72 系统为所有 AI 工厂提供功能最全面的训练和推理平台。NVIDIA Groq 3 LPX 通过大幅提升令牌生成速度,扩展了 Vera Rubin NVL72 的推理性能,为上下文密集型工作负载提供卓越的用户体验,使智能体能够以极快的速度执行任务。
NVIDIA Groq 3 LPX 正在引...