玉皇大弟弟 (@wangyufeng) 在 【超算 智能运营平台开发】 中发帖
老板想做一个超算、智能运营平台,愿景是 平台纳管千百台N卡,然后俩种模式,
1、直接以APi方式售卖算力,量计费。
2、通过虚拟化给用户分配卡,让用户自己去部署模型 时间计费
请教各位技术佬,API好说就是 开源的中转站改一改只弄国模,但是这个超算虚拟化怎么做呢,融合平台不用K8S,因为后续还要纳入NPU XPU PP等其他 国产卡,有没有见多识广的佬懂得 提提建议说两句