唐洛 (@tbphp) 在 【T佬】GPT-Load 1.0正式版本发布,多渠道Key池轮询代理服务! 中发帖
先求Star 😆
这段时间没怎么水论坛,就是一直再忙着1.0的改版重构。在我公益站从灰度测试到全面内测,目前算是稳定运行了。
介绍
[image]
[image]
说明
这个项目可以支持所有OpenAI兼容的渠道(目前测试过OpenAI官方,硅基,Chutes等渠道)以及Gemini渠道的Key池代理。
之前0.1版本没有持久化,没有管理端,不支持集群,太难用太难维护了。
所以这次1.0是彻底重构,让大家部署和使用都简单方便。
目前支持OpenAI(包括兼容格式)和Gemini格式,之后会兼容更多渠道类型。(欢迎PR)
优势
多渠道类型,任意分组:互相隔离,互不干扰。你甚至可以把Gemini的付费Key和免费Key进行不同的分组管理,以支持不同的管理方式。
集群架构:天然支持集群部署,没有啥问题是加机器解决不了的 🤪。
服务一线:直接用于我的公益站多个渠道的Key...