son0ma 在 [长篇实战] 记录一次M5 Max 128G 部署 ds4.c + DeepSeek V4 Flash 中发帖
最近看到redis之父antirez 专门为 DeepSeek V4 写了一个 Apple Metal 专用本地推理引擎 ds4.c,项目发布3天,立马收获了5.5k Star,据说性能优化提升很大,既然这么火热,那就本地部署看看能不能实现token自由~
在本地跑 DeepSeek V4 Flash;
用 Apple Metal 加速;
提供 OpenAI / Anthropic compatible API;
可以接 Claude Code / coding agent;
我的机器配置:
cpu: M5 Max
Memory: 128GB
Backend: Metal
Model: DeepSeek V4 Flash q2 GGUF
Project: https://github.com/antirez/ds4
第一步:克隆源码
git clone h...