@gobert 在 长期来看,基建就决定了国模在性价比上会长期落后美国本土的模型 中发帖

1.美国本土的B300一台不到40万美元,现在内地买到要至少1500万起,关键还买不到,有钱也买不到,这里的成本是美国的5.6倍 
2.美国的网络跟不要钱一样,独享万兆对等网络一个月不到1000美元,你看下国内三大运营商的商业宽带万兆上行要多少钱,看下阿里云腾讯云要多少钱,这里的网络费用至少是美国的200倍
3.电费这点差距比起上边硬件成本和网络成本的反而不值一提了,内蒙商业电费3毛人民币,加州商业电费算下来1块2人民币,而且现在美国本土的大厂都在中部的蛮荒地带自己建发电厂或者投资发电厂,数据中心也直接建在当地,算下来电费比加州还要便宜
所以长期来看,比成本想比美国模型成本更低根本不现实,违反客观现实,国家基建就决定了国模在性价比上会长期落后美国本土的模型,除非你在推理成本和训练成本上实现降维打击,那么靠蒸馏和影子路由可以实现降维打击吗?