whatanoob 在 有没有 ollama proxy 推荐 中发帖
背景是 github copilot 开放了自定义 api key,但是没法使用自定义 base url 的 openai compatible api。
想着能否在本地搭建一个服务监听127.0.0.1 (localhost) 的 11434 端口上,充当伪装的 ollama,将请求转发到硅基、火山等服务商。
看了一下 new-api、 one-api 都没法做到无令牌的情况下接受请求。佬友们有什么推荐的方案吗?