Reed Qu (@Honghurumeng) 在 一个可能有用也可能没用的项目,替换ollama将请求发送到Gemini,可搭配gptload 中发帖
今天想试一下vscode的copilot现在咋样了,看到支持ollama后突发奇想是不是能使用一个中间件来将IDE对ollama的请求转发到gptload上,说干就干,于是就有了下面这个项目
支持流式请求和工具调用
[image]
做了一半发现copilot从ollama添加的模型不能使用agent模式,看了看github发现得用inside版才行,不过还是含泪做完了 🥲 微软你罪大恶极
有没有佬知道怎么方便的用agent或者这个项目还有没有其他的应用场景 🤣
😮💨 总之就是个玩具项目吧
其实不只是gptload,Gemini请求都行
至于项目怎么运行:创建虚拟环境,安装依赖,python -c “from app.main import run; run()” 执行