@Ceia 在 Qwen3.5-27B-GGUF在LM Studio上似乎无法运行 中发帖
使用最新CUDA无法加载模型,加载进度在90%以后大幅下降,95%以上开始0.01%的增加加载速度,然而奇怪的是第一次加载时模型正常加载并且正常回答了快速测试的脚本
日志.txt (16.4 KB)
使用VULKAN和CPU硬跑,能加载但是输出存在问题
试过重新下载模型文件、更换其他人蒸的GGUF文件
[image]
[image]
以及,这个27B模型也太能想了,一直在thinking,其他模型思考问题感觉最多5000tk后就会终止思考了 🤣
[image]
▶
相同问题使用Vulkan运行后回答内容
希望LM studio赶紧针对性修复一下