紫薯布丁 (@Atlas0079) 在 LiteLLM (代理 Vertex AI Gemini) 可通过 curl 访问，但 NextChat 连接失败 (Failed to fetch) 中发帖我听说Gemini的vertex比aistudio更不容易截断，所以我想把它包装成 OpenAI 兼容的格式，以便在 NextChat 中使用

紫薯布丁 (@Atlas0079) 在 LiteLLM (代理 Vertex AI Gemini) 可通过 curl 访问，但 NextChat 连接失败 (Failed to fetch) 中发帖

我听说Gemini的vertex比aistudio更不容易截断，所以我想把它包装成 OpenAI 兼容的格式，以便在 NextChat 中使用。 

我在一台华为云服务器上部署了 LiteLLM
配置 LiteLLM 连接到 GCP Vertex AI Gemini Pro
使用 GCP 服务账号 JSON 密钥，并通过 GOOGLE_APPLICATION_CREDENTIALS 环境变量传递给 LiteLLM。
使用 systemd 运行，监听在 0.0.0.0:8000。配置文件config.yaml中定义了model_name为gemini-2.5-pro-preview-05-06并设置了drop_params: True。也设置了 LiteLLM 级别的 API Key



LiteLLM 服务运行正常: systemctl status litellm 显示服务 activ...