Mozi (@yeahhe) 在 【转载】RTX 4090 魔改版在SGLang 框架6并发Qwen3.5-27B 养🦞( 256K 上下文) 中发帖
偶然看到 B 站某大佬 4090 本地部署模型都能 6 并发养龙虾了,于是做了视频梗概。不知道 up 主在不在论坛内
[PixPin_2026-03-01_13-52-18]
[PixPin_2026-03-01_13-52-27]
[PixPin_2026-03-01_13-52-49]
[PixPin_2026-03-01_13-53-12]
[PixPin_2026-03-01_13-53-19]
[PixPin_2026-03-01_13-53-28]
[PixPin_2026-03-01_13-53-39]
bilibili.com/video/BV17mAUzxE4t/?spm_id_from=333.1007.top_right_bar_window_history.content.click