松七 (@wind1542) 在 求助,有什么工具能随机抽取知识库检索内容发给ai 中发帖
佬,如题,有什么工具可做到这点。
场景一:
我将一本书拆成若干文档构建资料库,日常聊天时涉及一个概念,文档里一般会有60多个提及片段甚至更多,但ai因为token和机制,永远只能读取靠前的30个内容,后面是无效的。但后面的内容也非常重要。
所以我想,要是有个工具,可以在知识库检索完内容后,针对相关度>40的内容片段,随机抽取5-10发给ai就好了。
场景二:
有时候我和ai的对话,比如说我想让ai根据我给出的性格特质创建一个角色,但我给出的特质非常多,如果我在指令中让ai随机选,事实上这不就是一个伪随机吗?既消耗ai的算力,也无法达到目的,所以有没有一种工具,能做我和ai对话的第三方。这个第三方根据我给出文档,每次对话时随机抽取内容发ai
我不是程序员,水平就是能部署ollama➕对着官方文档接入api,但这两个问题日用真的很苦恼,求助各位佬