风如歌 (@MR_wind) 在 如果搞个LLM Gateway 有没有搞头 中发帖
现在好像没有什么开源免费的，LLM Gateway 只有阿里的Higress。而且也是处于初步阶段。感觉后续，搞AI项目的公司和个人越来越多，LLM Gateway肯定会成为刚需。
如果现在搞一个LLM Gateway开源，大家觉得有没有搞头