🐟 (@stevessr) 在 加速 Gemma 4：使用多标记预测起草器加快推理速度 中发帖
[!quote]+
我们为 Gemma 4 系列发布了多令牌预测 (MTP) 绘图仪。通过使用专门的推测解码架构，这些起草器的速度提高了 3 倍，而输出质量或推理逻辑却没有任何下降。
[image]