xy3 在 关于 rag 让大模型具备新代码语言能力的讨论 中发帖
大模型写 latex,markdown,编程代码等能力是大公司经过大量数据得到的
对于我们个人来说 训练成本很高 ,而 rag 常用于知识库
但是有些库的新版本 或者新的库
大模型未训练可能导致能力非常低
比如 layui 的 2.9api 大模型一般是不知道的,typst 这个类似 markdown 的文档语言大部分大模型也只知道名字,语法全按 markdown 或者 latex 写
我自己试了一下用 fastgpt 导入 typst 文档作为知识库,大部分情况下还是不能让他会写 typst,一个例子是写数学公式
搜索的关键词一般就是原问题的优化 ai 不会优化问题为 xxx 符号怎么写 导致后面结果都是 latex 的格式
那么更复杂的包含标题 表格的需求大模型可能也很难想到要去搜这些关键词
我现在初步想法可能是用一个思考模型去想要用到什么语法?然后拿这些关键词去搜索可...