MAX (@MAX1) 在 请教一下macbook pro m5 64g 适合跑什么本地大模型 中发帖
主要需求是整理下知识库, 跑跑agent玩玩日常, 做做ocr之类的.
目前测试qwen3.6-35b-a3b 大概90 token/s qwen2.5-72b-instruct 6 token/s
还有什么模型能跑, 比较好用的吗