OpenAI_Q-Star 在 食神_濑尿牛丸 中发帖
争咩呀! 两样沟埋变做濑尿牛丸呀笨!
由together.ai提出的 MoA 架构 可以提升表现 如果我们把这些输出蒸馏到一个新模型 是为混蒸(混合蒸馏)
就像以上电影食神对白一样 成为濑尿牛丸LLM
“MoA(Mixture of Agents)是一种新颖的方法,它利用多个大型语言模型(LLMs)的集体优势来提升性能,实现了最先进的结果。MoA采用分层架构,每层包含多个LLM代理”