桑多涅 (@SandroneGui) 在 关于本地部署模型的选择..... 中发帖
我的硬件配置为三卡4090（一共72GB显存）
现在部署了Qwen3.8-Flash-Next (IQ3_XSS，llama.cpp) + 256k 上下文刚好跑满显存
但是感觉这玩意智商也不太够啊，有没有更好的选择呢？