Bensongai对话中上传文件回答这种大厂是怎么做的 中发帖

[image] 
大厂对话里上传文件可以上传整本小说,超级多个文件在一个对话里。
我在做对话应用的时候发现上下文会超,在通用和特定任务比如总结全文时不太容易做到。
难道只能用rag?但是总结这种任务用rag并不准确,而且用rag对话会有长时间延时,这些ai对话大厂直接对话都能做到飞速,他们是怎么做到的?佬们有没有教程或者案例