@yrickydeepseek v4 flash正式版,官方满血版,在手机本地上跑起来了 中发帖

如题,设备是一加13 24G+1T版,使用官方的Deepseek V4 Flash正式版模型权重,推理引擎用的colibri自行魔改了一下。暂时是纯CPU推理,FP8和MXFP4好像不受骁龙8 Elite的GPU和NPU官方支持。速度的话,大概是2~10秒一个Token的样子,其实这算是纯整活了,不过还挺有意思的。 
[截屏2026-08-01 19.52.35]
顺便发了个视频 https://www.bilibili.com/video/BV1hGGV6RExG