@Myallure 在老矿卡67xt用lm studio本地部署gpt 20b的模型，速度竟然能达到30token+/s 中发帖上下文拉到了8192 [图片] [图片]

@Myallure 在老矿卡67xt用lm studio本地部署gpt 20b的模型，速度竟然能达到30token+/s 中发帖

上下文拉到了8192 
 [图片] 
[图片]