NaynIruR (@ruri39) 在 qwen3.8 27B用Dflash2速度起飞了中发帖配置是两张5090，官方fp8量化权重+fp8 kvcache [image] [image] 差不多能跑180tps

NaynIruR (@ruri39) 在 qwen3.8 27B用Dflash2速度起飞了中发帖

配置是两张5090，官方fp8量化权重+fp8 kvcache 
 [image] 
 [image] 
差不多能跑180tps