@zhongge917 在 佬们的 128Gmac 都部署什么模型(学习 ing) 中发帖
三月份咬牙买了一个 mac m5max 128G+2T 的 16 寸 macbookpro,完全从 win 系统转到了 mac,习惯了两个多月终于习惯了
考虑到当时剁手其实是为了本地部署,这几个月也陆陆续续试了 Qwen 的一系列模型,但是无论是指令遵循和响应时间,以及长上下文等等都不尽如人意(用于 agent 不是对话式 AI)
想问问各位佬自己研究测试的时候,主要都有什么场景用本地 AI 来做事,要是在这个本上有推荐的模型最好了
其实说是有破限版的 llm 可以部署,但我还没试过,有用过的佬说说感受吗
新人发帖,多多关照