@jlau-ice 在 Dify系列:用diy整合各种大模型,构建知识库,搭建工作流。 中发帖
话接这位佬。
https://linux.do/t/topic/469487
本地部署dify后就可以添加模型啦。
添加系统模型
[image]
选择对应得模型供应商,本地部署得有像ollama,Xinference,GUPStack,LoaclAi等等,对于得部署文档可以上github。
以ollama为例,dify只支持ollama 得 LLM 模型和TEXT EMBEDDING 模型。
Xinference 支持得就有很多。
[image]
附上Xinference得链接
点击添加模型,输入ollama的服务地址,模型名称等信息就能连接上了。
[image]
或者可以使用硅基流动的,硅基流动支持的模型非常多,注册一个硅基流动,填入对于api-key就行了。
创建知识库
点击知识库—> 创建知识库
[image]
导入pdf等文件。
[image]
选...