@Sallos 在 各位佬友,问下NVIDIA Jetson Orin NX 16GB部署什么量化模型比较合适 中发帖

公司收拾出一台,有没有佬友有经验,想部署一个本地模型聊聊天,整理点材料这种。