bayun (@bayun_127) 在 为什么我下载好模型 使用ollama 加载后会出现这种情况? 中发帖
在玩 这个 https://hf-mirror.com/HauhauCS/Qwen3.5-35B-A3B-Uncensored-HauhauCS-Aggressive无限制模型。
具体是 Q4_K_M
当我输入你好以后 他会自己自生成一堆乱起八糟的内容。然后卡死。
使用的 Modelfile 是这样的
FROM ./Qwen3.5-35B-A3B-Uncensored-HauhauCS-Aggressive-Q4_K_M.gguf
PARAMETER temperature 0.7
PARAMETER top_p 0.8
PARAMETER top_k 20
PARAMETER repeat_penalty 1.2