Barry (@Barry0928) 在 全国产推理/训练服务器 佬友们选型有推荐吗 中发帖
有个项目要用全国产的服务器做llm推理/训练(最大不会超过32B),现在调研到国产GPU有一些(昇腾,摩尔线程等),cpu也有一堆,华为的鲲鹏,飞腾等…
考虑到实际部署难度,生态等,佬友们有什么选型的推荐吗。看网上用华为的方案多一些…?求经验