机不可失 (@jibukeshi) 在 手机本地运行 Qwen3-4B-MNN 和MiMo-7B-RL 的实际体验 中发帖
先说下我测试的机型为 Redmi K50 Ultra,处理器为骁龙 8+ Gen1,12+512G
Qwen3-4B-MNN 出乎意料的强,只用了 4B 的参数感觉就达到了至少 8B 的效果,输出速度也很快,能达到 20 多 token 每秒。
录屏实测,感受输出速度:https://alist.jibukeshi.dpdns.org/公共分享/视频/手机本地运行Qwen3-4B-MNN.mp4
[IMG_20250503_214540]
[IMG_20250503_214555]
![IMG_20250503_214540.png]
能回答出 9.9和9.11两个数字哪个大,但是无法回答出5.5米长的棍子能通过3×4米的门吗
[IMG_20250503_214611]
[IMG_20250503_214620]
MiMo-7B-RL-MNN 显得就不怎么好了,在 MNN...