伟大的星星 (@tudou23) 在 vps有啥推荐跑的ai 接口呢? 中发帖
我问豆包说是这个最轻量化rwkv.cpp + RWKV-1.6B 4bit 量化
真实占用(实测数据)
内存:700MB~950MB
CPU:20%~40%(4 核只用 1~2 核)
回复速度:1~2 秒一条
vps配置是4c12g,可能还剩2c8g的性能
老哥们有推荐别的吗 谢谢