Bunn (@BunnHack)OPENAI 与 Cerebras 签署 100 亿美元协议,购入 750 兆瓦推理算力 中发帖

Cerebras 构建了专为加速 AI 模型长时间输出而设计的系统。其独特的速度来自于将大规模计算、内存和带宽整合到单个巨型芯片上,消除了在传统硬件上减慢推理的瓶颈。 
将 Cerebras 纳入我们的一系列算力解决方案,旨在显著提升 AI 的响应速度。当你提出一个难题、生成代码、创建图像或运行 AI 代理时,背后都有一个循环在运行:你发送请求,模型“思考”,然后返回结果。当 AI 能够实时响应时,用户能做更多事情、停留更久,并运行更高价值的工作负载。
我们将分阶段把这种低延迟能力集成到我们的推理堆栈中,覆盖更多工作负载。
“OpenAI 的算力策略是构建一个有韧性的组合,将合适的系统匹配到合适的工作负载。Cerebras 为我们的平台增加了专用的低延迟推理解决方案。这意味着更快的响应、更自然的交互,以及将实时 AI 扩展到更多人群的更坚实基础,”OpenAI 的 Sachin Kat...