jeffccie花巨资横评:Qwen3.8-27B_四卡对比_3090-4090-5090-V100 中发帖

以下数据全部为真机实测

本报告完全基于以下实测报告(全部同源,模型均为 Qwen3.8-27B):

3090 24G:Ollama 0.32.15 / Q4_K_M / 实测 32K-128K
4090 48G:llama.cpp Ridge-3.7bpw / 实测 192K-256K + vLLM 0.19.1 FP8 / 实测 192K
5090 32G:Ollama 0.32.15 / Q4_K_M / 实测 64K-256K + vLLM 0.26.1rc1 / NVFP4 / 实测 32K-192K
V100 32G:Ollama / Q4_K_M / 实测 192K-256K

命名说明:本报告用"RTX 5090"指代 32GB 档位的卡——nvidia-smi 原文为 NVIDIA GeForce RTX 5090 / 32607 MiB,但文件夹沿用"5070"目录...