Schrödinger (@synbio) 在 微软开源了一款MoE模型:GRIN-MoE 中发帖
微软开源了一款MoE模型:GRIN-MoE
6.6B活跃参数,在编程和数学任务上能力出色
适用于需要强推理能力,特别是代码、数学和逻辑需求,内存/计算资源受限的环境以及对延迟敏感的场景
github:GitHub - microsoft/GRIN-MoE
[image]