拾雨 (@c519127)华为官宣昇腾 0 Day 适配小红书最新开源大模型 dots3-note preview 中发帖

IT之家 8 月 16 日消息,小红书 8 月 14 日正式发布 dots3-note preview 开源大模型。华为官方昨日宣布,昇腾 Atlas 800 A3、Atlas 900 A3 SuperPoD 超节点已完成 dots3-note preview 的全量适配,并基于 vLLM Ascend 开源推理引擎提供完整的部署与推理能力。 
[图片]
据介绍,作为 dots3 系列的首个版本,dots3-note preview 开源大模型以 280B 总参数量、16B 激活参数量构建能力底座,同时具备文本、视觉、语音全模态感知理解能力。官方表示,该模型在推理、Agent 及多模态感知等能力上进行了全面优化,在多项任务上取得了比肩国内外更大尺寸优秀模型的效果:
[图片]
另外,华为官方表示,在该模型发布当天,昇腾完成 0 Day 推理部署适配与性能优化,在完整保留模型文本、视...