zcmi 在 大家都在讨论“大模型”,有没有什么很便宜甚至几乎可以白嫖的“小模型”推荐呀 中发帖
需求很低,举个例子,主要用来提取一些信息,比如一篇文章,提取一些信息,或者在终端中提取一些信息,或者匹配刮削电影文件名信息等等,纯文字信息场景,然后用这些信息去执行一些几乎固定化的流程。设备性能较差,只能用api了,如果是电脑就搭建本地模型了。
需求有点奇怪,感觉7B的都能处理我的需求,主要是完成一些应用的初始化工作,就首次运行时需要调用多一点,平时基本不怎么调用,安装后预计每月调用不超过50次。初始化时会判断一些信息,在工作流的不同节点,感觉用ai agent更灵活。
半夜睡不着,表达的不是很清楚。