@JollyRaven84 在 AI编制标书系统用RAG还是llm-wiki哪个技术栈合适 中发帖
看了市面上大多数的AI编标系统,实际体验了很久,发现套路都差不多,主要还是使用RAG技术查询已知知识来完成技术标的编写,但仔细看下写下来很多都是错误的,连最基本的按照招标文件中给定的目录格式生成正文都做不到,这不得妥妥废标~
最近自己做了个编标系统,技术栈不用RAG了,在我看来RAG是前几年LLM上下文只在4K、16K的产物,不合理的切片极大影响AI对事物的理解。而目前LLM普遍都在1M上下文了,价格也不贵,加上最近几周看了下llm-wiki的一些思想,所以决定不使用RAG技术, 按文档原本的层级组织知识更对路——不切,按章节组织,用哪一节就整节丢给模型。
各位佬帮忙看下这样可以吗