小丽 (@xiaola1) 在 製作代理並將其公開為 api 或 mcp 工具的最簡單方法 中发帖
Dify 是一款帶有點程式設計性質的低程式碼智慧工作流程編排軟體,整合了市面上大量的模型應用和開發工具,例如:OpenAI、Azure、HuggingFace、DeepSeek、OLLAMA、騰訊混幣、文心易言、智撲AI等模型。
還有LM Studio、百川智能、AI Studio、GitGub、網路爬蟲等工具,整合了系統推理模型、Embedding模型、Rerank模型、語音轉文本模型、文字轉語音模型等功能。
一、推理模型OLLAMA的安裝
我們需要在 Dify 中指定推理模型。建議使用 OLLAMA 並將其部署在個人裝置上。
Ollama 是一款在本地運行大型語言模型 (LLM) 的開源工具,提供簡單的介面和優化的推理引擎,使用戶無需依賴雲端即可在個人設備上高效地加載、管理和運行AI模型。
[Dify實現AI代理工作流程實用手冊]
我們選擇Windows版本,直接安裝。
安...