Mozi (@yeahhe) 在 测评:自部署 Qwen3.5-0.8B 模型翻译能力详细评测 中发帖
自部署 Qwen3.5-0.8B 模型翻译能力测评报告
📋 测评概述
项目
内容
测评模型
Qwen3.5-0.8B-Abliterated (GGUF Q4_0 量化)
模型大小
501.45 MB
部署方式
Llama.cpp / LM Studio (OpenAI 兼容 API)
测试时间
2026-03-08
测试硬件
Mac mini (ARM64)
🚀 一、安装部署步骤
1.1 环境准备
# 安装 Homebrew (如未安装)
/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"
# 安装 llama.cpp
brew install llama.cpp
1.2 下载模型
从 HuggingFac...