York Ji 在 【开源】单文件 OpenAI 兼容性 API 连通性测试工具,支持 Provider 批量管理、导出(含试用Demo) 中发帖
前言
论坛中有很多佬友开发过测试 LLM API 连通性的工具,但是用了一圈下来感觉都不太符合自己的需求
个人还是希望有一款可以将测试过的 Provider 批量保存到本地,并支持导出导入功能,而且可能个别 Provider 仅支持流式传输(没错说的就是你 ModelScope),个别 Provider 仅支持非流式传输(如一些 草台班子2API)
因此在 Gemini 的协助下开发了这款连通性测试工具,可以针对所有兼容 OpenAI 请求格式的 Provider 提供的一个或多个模型进行连通性检测,并且可以将 Provider 缓存到浏览器甚至导出到本地,可以方便地在多个提供商之间进行切换和检测
全部代码均包含在单个html文件中,轻量级易部署,同时为大家提供了试用网址
功能说明
自定义提供商 BaseURL
支持批量获取模型列表 or 手动输入模型名称
支持多模型同时测试
支...