一碗K旋风 (@xscs709560271) 在 有免费少量的嵌入和重排api吗 中发帖
请教一下各位大佬,最近在做一个RAG系统,奈何本地硬件有限,用ollama部署嵌入和重排模型会OOM。所以着转用线上,但是我找了好几个公益站,提供的比较有限,特来请教各位佬友。
请教一下各位大佬,最近在做一个RAG系统,奈何本地硬件有限,用ollama部署嵌入和重排模型会OOM。所以着转用线上,但是我找了好几个公益站,提供的比较有限,特来请教各位佬友。