湾狐狸🦊 (@baysonfox)佬们觉得在纯文字/代码的情况下 还有必要用RAG嘛 中发帖

如题 这个想法主要来源于昨晚干完活之后和老师的讨论 
一方面是如今的模型速度和能力不断提升 直接将ripgrep之类的工具暴露给模型 让模型直接搜索已经成了不少IDE/CLI工具的方案了
另一方面是如果用传统方案 依然需要对切片方案之类的做调整 或者再加上rerank或者关键词检索之类的混合方案
之前试过用明日方舟的设定集来尝试(纯文字,半结构化),但发现很多时候
的效果其实不如直接交给模型 让模型搜索
不过劣势可能是比较烧token? 但是按照目前模型的性能和价格来看 这一方面可能很快就不再是问题了