炫彩小鱼干 (@Yuookie) 在 阿里marco-mini-instruct 纯 cpu 运行 47 token/s 中发帖
17.3B, 0.86B active 如此奇怪的参数，好奇跑了跑，cpu 如图
[image]
因为是纯 cpu 运行，不涉及内存与显存的传输，所以首字很快
[1776236610797]
天气卡片什么的就别想了
[1776236441908]
wtf 连翻译都不行
[image]
[1776236532875]
此贴终结