@ggyy 在 服了,highlight 的 sonnet4 是李鬼吗? 中发帖
没给 highlight 上装 mcp,这 app 又没地方改系统提示词,看上去都是高端模型。
我不知道是它自己系统提示词的过,还是李鬼,真的是车轱辘式的犯错,受不鸟了。。。
我只是让sonnet4 给我 Mac装个本地跑翻译的大模型。
体量轻速度快,并发高,doker 部署,让它帮我找,结果一折腾就是 6-7 个小时,不停的这出错那出错。。。
CTranslate2 + Helsinki-NLP/opus-mt-en-zh + int8量化 + FastAPI 这套搭配对吗?
有大佬给推荐更好的模型或者现成的 docker 项目吗?我需求就是想试试本地翻译,给网页插件用,给本地翻译软件用。macmini M1 16G。纯小白瞎折腾
话说这两天gemini 野 key 疯狂的截断,也没法好好用。
[image]