Tian (@zhangtyzzz)关于jev模型的浅显理解,讨论讨论 中发帖

浅显的理解,这个核心是一个通用分类器。传统分类器要么准确度有点问题,要么在不同场景下可能要专门训练。而这个相当于结合了LLM的语义理解能力,同时能够快速适配不同场景。 
所以我觉得,可能一些常见场景,比如垃圾邮件分类、工具选择,这一类东西可能会有用。
当然,如果场景过于常见,其实可能也值得专门训练一个分类器模型。目前我看到X上比较有用的,感觉还是Computer Use以及browser use这些,因为组件动态变化,传统的BERT这类模型不是很好训练,可能会用这个新的模型,效果会比较好。
对比大语言模型做分类,我理解核心优点就是速度快。传统大模型是自回归架构,所以泛用性也很好,可以做各种分类,吐JSON、吐出choices都完全可以做到。但是它的架构决定了它速度不会那么快。另外一个点可能是奖励函数的差异。这个模型的奖励函数看起来是直接锚定最终准确率来做的,也许后面在分类上能达到更高的...