@SSN007关于使用中转站进行开发的一些坑 中发帖

目前我在一家电商公司,手里有一个 AI 生图 Web 项目。现阶段项目主要是基于一些 workflow 调用 API 进行生图,还没有发展到 Agent 形态。 
最近我发现,很多中转站宣称“全量支持 OpenAI compatible 接口和参数”,但实际使用下来,这类说法的价值很有限,甚至会误导开发者。
以最常见的结构化输出为例,也就是 JSON 格式化输出。大部分低价中转站底层并不是调用真正的 OpenAI 标准 API,而是使用 GPT 订阅账号、ChatGPT/Codex 后端,甚至有些还会混用能力更弱的模型。这样一来,即使请求里传了 OpenAI compatible 的 response_format、json_schema、strict 等参数,也不代表这些参数真的会在 API 层被严格执行。
实际结果是,请求可能只是被中转站转写成 prompt,再交给 GPT/Cod...