@jlau-ice 在 Xinference 走的是CUP，但torch调用GPU是可用的 中发帖
[image]
[image]
[image]
如图，这个环境的torch 是可以用GPU 的，但是启动Xinference ，dify的知识库调用里面的重排模型走的却是cpu，好几次都卡死了。设备用的用的是Jetson，arm架构的。