@yycn 在 ollama-for-amd 本地配置deepseek遇到的问题 中发帖
环境:windows11
显卡:AMD RX6750 gre 10G
问题:
情况1:ollama-for-amd 最新版0.6.8的时候,替换 ROCm之后跑deepseek7b,报错:Error: llama runner process has terminated: exit status 2
情况2:使用ollama 最新版0.6.8,替换 ROCm之后可以跑,日志也有显卡信息,ollama ps 100%GPU,但是chat时资源管理器显示GPU无占用,完全是在cpu上跑
最后把ollama-for-amd版本换成0.5.4才完全在GPU上跑,有没有佬知道为什么