TUBUG分享一个阿里DashScope API转OpenAI API的小程序 中发帖

最近玩了一下阿里的大模型精调(用自己的聊天记录 
想接到open webui
But…阿里部署的精调模型不支持OpenAI…
[image]
一气之下自己写了一个
main.7z (1.4 KB)
解压即可
然后export DASHSCOPE_API_KEY="your_actual_api_key"配置一下环境变量
使用方式(与OpenAI客户端兼容):
client = OpenAI(
base_url="http://localhost:5000/v1", # 指向本地服务
api_key="same-as-dashscope-api-key" # 需要与DASHSCOPE_API_KEY一致
)

main.py里面MODEL_MAPPING需要根据自己情况改一下