Azarasi 在 这个配置的集群 Agent 开发跑本地模型用哪个比较好 中发帖
现在有12块H100，但每次都要排几天的队；有8块L40S，但平常只有2-4块可用；还有4块V100，基本上没人用；还有8块A40和26块A100，基本上抢不到；想知道这个配置都能跑哪些适合Agent的小模型