@applefood 在 【开源】LLMRelayService —— Docker 部署个人大模型网关 中发帖
本帖使用社区开源推广,符合推广要求。我申明并遵循社区要求的以下内容:
我的帖子已经打上 开源推广 标签: 是
我的开源项目完整开源,无未开源部分: 是
我的开源项目已链接认可 LINUX DO 社区: README 已添加链接🔗
我帖子内的项目介绍,AI生成、润色内容部分已截图发出: 是
以上选择我承诺是永久有效的,接受社区和佬友监督: 是
一、前言
之前用NewAPI,就是有点重,比较适合中转站,和自用不太一样。
遇到的问题如下:
有时候需要看请求完整内容
模型价格需要配置和同步
接口格式转换稳定性很玄学
用户管理、余额功能用不到
遂开发了一个自用的网关 GitHub - GoJam11/LLMRelayService · GitHub
二、基础使用
[image]
支持配置 openai 和anthropic 上游...