杰哥 (@venjye) 在 DeepSeeK 突然发布 DSpark，让 AI 的回答不再「挤牙膏」 中发帖
DeepSeek 联合北大发布并开源了推理加速框架 DSpark（已上线 DeepSeek-V4 预览版）。该框架能根据系统负载和文本置信度，动态调整推测解码的验证长度，在线上高并发场景下将系统吞吐提升了 50%
以上，显著提升了生成速度并降低了推理成本。项目地址：GitHub - deepseek-ai/DeepSpec: DeepSpec: a full-stack codebase for training and evaluating speculative decoding algorithms · GitHub