因为本人没有相关经验。需请教： 
公司私有化部署了几个模型，有千问的模型，有嵌入模型，ORC等。这样是否有什么平台先管理一下？然后我其他的应用在对接到管理平台，目前都是第三方应用系统直连的到模型端口，对于外网使用等问题，感觉这样设计不太合理。都感觉差点意思，有经验的佬友欢迎来讨论！