Mozi (@yeahhe) 在 随着多模型模型的发展,API调用时的数据传输怎么办,视频、音频、图片等大体积文件将会引发极高的延迟,一次传输所有上下文了不再适用了? 中发帖
随着多模型模型的发展,API调用时的数据传输怎么办,视频、音频、图片等大体积文件将会引发极高的延迟,一次传输所有上下文了不再适用了?
重复传输:即使是微小的后续交互,也可能需要重新上传大型媒体文件。
高延迟:大文件上传下载耗时,用户等待时间长。
高成本:带宽资源消耗巨大,对服务提供商和用户都可能产生高额费用。
[PixPin_2025-05-10_01-41-00]