He (@nukedolby)老友们一般选择什么框架封装大模型并提供API服务? 中发帖

FastAPI 、Flask还是Java环境?目前接触的很多开源项目都使用的Gradio ,但是生产上好像还得选型。