Schrödinger (@synbio) 在 Google 推出第六代 TPU Trillium 中发帖
Google 推出第六代 TPU Trillium
Trillium TPU 专为满足大型 AI 模型的需求而设计。
相比上一代 TPU v5e,Trillium 的训练性能提升超过 4 倍。
推理吞吐量提高至多 3 倍。
能源效率提高了 67%。
每个芯片的峰值计算性能提升 4.7 倍。
高带宽内存(HBM)的容量和芯片间互连(ICI)带宽均提升了两倍。