@dvdbv如果jev主导降智路由,未来会怎么样? 中发帖

最近一个名叫jev的模型横空出世,引起不小的讨论,但是看l站的讨论似乎不多,所以用一个大家最关注的降智路由问题作为话题,看看能不能引起佬友们的兴趣。 
首先,jev并非传统的llm,它更像一个判断器,抛弃了自然语言的能力,换取了更低的幻觉率。并且它的响应速度基本维持在一秒以下。
所以,如果把它接入ai网关,判断用户的请求是否合理,会发生什么?
AI-Safety-Gateway.zip (14.5 KB)
简单做了个小的演示项目,jev完全可以在不让用户察觉的延迟内,无感判断是否路由弱模型。
好了,以上是从路由方面的切入点,不过既然是讨论,我的目的当然是jev在其他方面的用途。
举个例吧,在战争策略游戏中,我觉得这种模型判断器效果很好,佬们还有别的想法吗?
结尾留个指路,当前jev除了去官方填表申请,vervel绑卡送的五刀也可以调用。