Tranquility 在 【模型前线】OpenBMB发布MiniCPM 4.1-8B首款具备可训练稀疏注意力的开源推理大语言模型 中发帖
介绍 MiniCPM 4.1-8B：首款具备可训练稀疏注意力的开源推理大语言模型
[20250906_023110]
✅ 强大的推理能力：在15项任务上超越同规模模型！
✅ 快速生成：推理解码速度提升3倍
✅ 高效架构：可训练稀疏注意力 (Trainable Sparse Attention)，频率排名推测解码 (Frequency-ranked Speculative Decoding)
模型下载:
Huggingface: huggingface.co/openbmb/MiniCPM
Github: GitHub - OpenBMB/MiniCPM: MiniCPM4 & MiniCPM4.1: Ultra-Efficient LLMs on End Devices, achieving 3+ generation speedup on reasoning tasks
...