wncfht 在 关于个人使用的大模型路由项目 中发帖
想问一下各位大佬,个人使用大模型路由项目用什么比较好呢,比如需要负载均衡,然后竞速,cache reuse 等一些功能。
我现在在用 Claude code hub,但是自己魔改给他改废了。我看很多中转站用的都是 new api,我比较好奇这个在路由上面会做的更好吗?
其他还有一些选项,比如 metapi, octopus 等等。比较好奇哪个会好一点,请大佬推荐一下