perry (@Fishing_DOctor) 在 Hermes Agent 模型供应商配置 中发帖
不同 API 服务的对我来说,非常实用。毕竟想省tokens,我还在用很多免费的模型,就是怕不稳定.
只讲实际能用、配置里能落地的部分,避免把不存在的配置项写进去。
如果有错误欢迎佬友指正 🥰
我的Hermes 的模型配置思路
Hermes 的配置核心在 ~/.hermes/config.yaml。
模型相关配置主要分几层:
主对话模型:负责正常聊天、代码、工具调用、任务执行。
辅助模型:负责压缩上下文、图片理解、网页提取等后台任务。
Fallback Providers:主模型失败时切到备用供应商。
Custom Providers:接入 OpenAI 兼容接口,比如 vLLM、Ollama、LM Studio、SGLang 或第三方中转 API。
Credential / Auth:API Key 或 OAuth 凭据。
最常见的配置结构大致是:
model:
...