kelan 在 服务器部署CPA,高并发调用大规模出错问题请教 中发帖
服务器部署了cpa,本地500并发调用,每次调用都带有300k左右的图片和文本,调用模型是gpt5.4 xhigh,开启了流式输出。
为了避免是域名的问题,而且只有我自己使用,本地发起请求时使用的ip地址。
但是会大规模的报错,主要是下面三类:
ReadError
ConnectError: All connection attempts failed
RemoteProtocolError: peer closed connection without sending complete message body (incomplete chunked read)
服务器部署小白,请问有大佬知道是怎么回事吗?