机不可失 (@jibukeshi) 在 安卓手机使用 MNN 本地部署 Qwen3、MiMo、DeepSeek 中发帖
今年年初开源模型 DeepSeek R1 的爆火掀起了一股本地部署 AI 的热潮。那个时候手机本地运行主要使用 Termux+Ollama 或者 PocketPal 的方法,配置较为复杂,而且一般 DeepSeek 只能跑 1.5b 的模型,7b 跑起来很吃力,并且智商都很低,体验并不好。
而最近 Qwen3 的发布带来了 4B 模型,基本达到了可以用的智商水平,运行也挺流畅。
同时,阿里也推出了叫 MNN Chat 的 APP,支持一键在本地部署开源大模型,大大降低了手机本地运行 AI 的难度。
MNN 官方 Github 仓库的 Release 中并不包含 APK 文件,而是隐藏在一个 md 文件中:https://github.com/alibaba/MNN/blob/master/apps/Android/MnnLlmChat/README_CN.md, 所以知道 MNN ...