贺兰星辰 (@HikariLan)你的 RAG 系统可能正在“杀死”大模型的灵性 | HikariLan's Blog 中发帖

由 AI 生成的文章摘要 
RAG系统通过语义检索和文本嵌入技术为LLM提供知识补充,但存在分块导致的上下文断裂和嵌入模型语义理解局限等问题。相比之下,基于文件系统访问(FileSystem Access)的检索方式赋予LLM主动探索知识的能力,通过提供目录浏览、文件搜索等工具实现更灵活的数据交互。这种模式将LLM从被动接受者转变为主动感知者,更符合Agent的发展趋势,尽管会在token消耗和安全性方面存在挑战。 当提到“如何为大模型提供大规模的可用于检索的信息”时,我们第一反应想到的大概率是 RAG 一类的解决方案,但现在我要说,基于文件系统访问(FileSystem Access)的检索方式可能远比使用 RAG 更好。 什么是 RAG?为什么需要 RAG?Retrieval-Augmented Generation(检索增强生成,RAG)是一种可以允许 LLM 从大规模非结构化信...