riv 在 有点好奇ChatGPT运行代码的性能如何 中发帖
既然openai claude都可以直接运行代码。
有什么办法知道他们运行代码的机器性能如何吗,我不是学计算机的,只是纯好奇他们都怎么平衡运行速度和成本的。
说到这个还想知道有没有人分析这些大模型厂商一般的成本是多少,尤其是o1这样的思考模型,功耗gpu之类的真的会很夸张吗。这几天看到有人说o3最厉害的版本计算一次成本都上千刀。
因为感觉光看api不太能看得出来成本吧,有的公司在垫钱有的公司在赚钱。