八嘎小天皇 (@ves) 在 gemma3:12B刚好能卡着Mac Mini 4丐版的边边运行 中发帖
使用ollama拉取了gemma3:12b运行
(PS:吐槽一下,brew用的阿里镜像,update ollama一直显示最新版5.3,然后重新卸载了在github下载ollama.app才升到最新的6.0.0版本)
其他全部关闭(除了访达和orbStack之外),ollama run开始的时候及其卡顿,即使在运行起来,内存也占用到90%,让我甚至想把mac 图形界面也给关了看能不能流畅一点,但是只要运行起来,吐字还不错,勉强1s1字,估计着就是丐版的极限了。
言归正传,比起其他大模型我还是更喜欢gemma系列的,gemma 系列(2:9b和3:12b)喜欢用emoj,总让我有一种情感细腻的感觉,这是没有添加任何提示词就达到的效果,感觉很适合用来练习谈恋爱,它很可爱。
当然我知道估计在线的API高版本可能感情更加细腻,但是把自己对话传到外部平台总感觉有种很羞耻的感觉,所以我感觉ge...