LINUX DO Channel
07:55 · Dec 10, 2024 · Tue
drfy
在
有人弄过基于腾讯GPU多台部署llama3.3
中发帖
发现腾讯可以开启多台机器,打算尝试下,有没有佬实现过。顺便问一下,有什么部署框架推荐吗?vllm?
Home
Powered by
BroadcastChannel
&
Sepia