居里栈栈 (@julizhanzhan_1024) 在 有佬知道这个是什么应用不？ 中发帖
[29c1fcb2598c04cc8b508fe9a4fc7ef6]
开局一张图，其余全靠问，以前用ollama的好处在于他能告诉你需要多少显存，但是ollama没有vllm性能好，今天看到这个图，能告诉你vllm要多少显存，还能一键部署，所以想问问这个是什么应用