风雨未有归期 (@ITQianChen) 在 AMD电脑使用NPU本地运行大模型 中发帖
换了个新电脑，发现nup占了31个g，然后丝毫没运行情况。
[image]
然后网上找了一下nup是什么，发现是跑模型的。于是又搜了怎么跑。
发现了
Overview · FastFlowLM
这个文章，可以跑小模型，都是适配了NPU的。
[image]
[image]
可以先跑1b的试试。最高有8b的。
为AMD的NPU开启性能模式：
cd C:\Windows\System32\AMD\
.\xrt-smi configure --pmode turbo
其他模型说明
NPU Management Interface — Ryzen AI Software 1.6.1 documentation