olddog【大道至简】一行提示词提升模型 46% 的输出速度 中发帖

刚把大模型输出同样的 JSON 提速了 46%。 
没改代码,没换模型,只加了一行提示:
“输出紧凑单行 JSON(无缩进、无多余空格)”。
小约束,换来大收益:让模型少做“排版”,把算力用在正事上。
有时候,最有效的优化不是更复杂,而是更明确。
这个道理都加都懂,但是有多少团队定为规范呢?
[图片]
[图片]