3 hours ago
针法自然 (@liyunfei54) 在 各位本地部署佬友iq_3s在16个显存下面峰值30-40token是极限了吗？ 中发帖

[image] 
大家16g跑出来的效果啥样子的