Mozi (@yeahhe)测评:自部署 Qwen3.5-0.8B 模型翻译能力详细评测 中发帖

自部署 Qwen3.5-0.8B 模型翻译能力测评报告
📋 测评概述




项目
内容




测评模型
Qwen3.5-0.8B-Abliterated (GGUF Q4_0 量化)


模型大小
501.45 MB


部署方式
Llama.cpp / LM Studio (OpenAI 兼容 API)


测试时间
2026-03-08


测试硬件
Mac mini (ARM64)




🚀 一、安装部署步骤
1.1 环境准备
# 安装 Homebrew (如未安装)
/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"

# 安装 llama.cpp
brew install llama.cpp

1.2 下载模型
从 HuggingFac...