Strata又有大动作了, 支持DeepseekV4.1-Flash了. ISTA也发布了GSQ-RCO版的1bit和2bit的deepseek模型了. 写的量化效果很好,损失非常小. 
过几天大家调用的DeepseekV4.1-Flash 1017的API可能就是1bit量化的了. 
这是Strata写的实测数据: 




PC
output
prompt




RTX 5070 12 GB, 64 GB RAM
about 5 tokens/s (code)
231 tokens/s at 8K


RTX 3060 12 GB, 46 GB RAM
about 8 to 10 tokens/s (code 9.9, agent work 7.8)
149 tokens/s at 8K


1x Radeon AI PRO R9700 (AMD), IQ2_XS
about 11 ...