lu2905363第一次云端试用,高端显卡还是太香了 中发帖

背景:准备使用PaddleOCR-VL进行大批量的图像文本识别。PaddleOCR作为轻量模型,识别效果一直很不错。之前一直走官方API调用,每天有3000张图片的免费次数。(20000是包括网页版的额度) 
[{87E3232B-D814-4E3A-9561-02AFFF61FD1C}]
之前发送请求,排队最多一分钟1张图,这两天突发恶疾,一张图重试很多次都排不上队。
[{FBEE2597-C2B7-42B8-A1B8-405DBF24A55A}]
实在受不了,搬出dsv4.1f进行本地部署。贴了官方教程过去后部署很顺利,但是自己老电脑上的2060S算力低,走不了vLLM加速,推理实在太慢,一张图平均2、3分钟,200页的书能识别10个小时
[image]
走投无路之际,偶然间想到之前有所耳闻的云算力显卡租赁。l站里一搜,顺藤摸瓜找到Modal,绑定信用卡就有30刀免费额...