我打牌超逊的 (@prosperousEnding) Mac mini M4 原生部署教程:Miloco + 本地 7B 视觉模型 + 云端语言模型 中发帖

之前看到miloco一直被8G显存和30系列显卡劝退,也一直担心云端的隐私安全问题,但是现在有了macmini后这些问题就迎刃而解啦: 
如题,介绍一下大致流程:
目标:

Miloco 后端和 Web 页面运行在本机 https://127.0.0.1:8000
本地视觉模型使用 Xiaomi MiMo-VL-Miloco-7B GGUF,通过 llama-server 提供 OpenAI 兼容接口
规划/对话语言模型走云端 OpenAI 兼容接口
米家摄像头、本地视觉理解、米家通知、米家设备控制可联动

以丐版为例(主要我的就是丐版 🫠
建议配置:

macOS,Apple Silicon
Python 3.12
Homebrew
16 GB 以上可用磁盘空间
和米家摄像头处于同一个局域网

1. 安装基础依赖
brew install python@3.12 git git...