半杯无糖 (@passerby) 在 是Lobechat对响应要求更严格吗? 中发帖
最近gemini断流验证,所以个gemini加了个防止断流的服务
但是不知道是什么情况,在Lobechat,总是失败,报错率奇高,于是我做了下面的测试
客户端cherry stduio、lobechat应用客户端+自部署的云服务
原生的请求格式,同一个地址,同一个key
同样的系统提示词+同样的问题(总tokens在8000多),正确响应应该也在8000多
手动问答+重试多次(10次以上)
cherry stduio的完整响应率在90%,lobechat的失败率在90%
真就非常的难绷